情報処理安全確保支援士試験 令和6年度 秋期 午前II 問2

【正解】イ

Adversarial Examples攻撃は、AIへの入力データに、人間には気付きにくい微小な変化を意図的に加え、AIに誤った判定をさせる攻撃です。このような細工を施した入力は「敵対的サンプル」と呼ばれます。例えば、人間には元の標識と同じに見える画像でも、特定のノイズを加えることで、画像認識AIが別の標識として分類する場合があります。AIモデルが学習によって形成した判定境界の弱点を突く攻撃なので、イが正解です。

アのAdaptively Chosen Message攻撃は誤りです。これは暗号やディジタル署名に対する適応的選択メッセージ攻撃であり、攻撃者が過去の結果を踏まえて次のメッセージを選び、署名生成などを繰り返し利用して偽造を狙うものです。

ウのDistributed Reflection Denial of Service攻撃は誤りです。これは送信元を攻撃対象に偽装し、多数の第三者サーバから応答を反射させて攻撃対象へ集中させる分散型サービス妨害攻撃です。

エのModel Inversion攻撃は誤りです。これはAIモデルへの問い合わせ結果などから、学習データに含まれていた個人情報や特徴を推定・復元する攻撃です。

【ポイント】 敵対的サンプルはAIの可用性や完全性を脅かし、モデル反転攻撃は学習データの機密性を脅かします。 画像だけでなく、音声認識や自然言語処理でも入力への細工による誤認識が起こり得ます。