情報処理安全確保支援士試験 令和3年度 秋期 午前II 問1

【正解】イ

イのAdversarial Examples攻撃は、画像などの入力データに、人間にはほとんど分からない微小な変化を意図的に加え、AIに誤った判定をさせる攻撃です。例えば、人には同じ動物の写真に見えていても、画素値を巧妙に変化させることで、画像認識AIが全く別の動物と判定することがあります。これは、機械学習モデルが人間とは異なる特徴に基づいて分類し、入力空間上の判定境界に影響される性質を悪用したものです。

アのAdaptively Chosen Message攻撃は誤りです。これは主にディジタル署名に対する攻撃であり、攻撃者が、それまでに得た署名などの結果を参考にしながら次のメッセージを選択し、署名の偽造を試みるものです。

ウのDistributed Reflection Denial of Service攻撃は誤りです。これは送信元IPアドレスを攻撃対象のものに詐称し、多数の中継サーバから応答を集中させてサービスを妨害する分散反射型DoS攻撃です。

エのModel Inversion攻撃は誤りです。これはAIモデルへの問合せと出力結果を分析し、学習に使用されたデータや機密性の高い属性を推定、復元する攻撃です。

【ポイント】 Adversarial Examples攻撃は、学習済みモデルの判定を誤らせる回避攻撃の一種です。 対策には、敵対的サンプルを学習に加える敵対的学習、入力の検査や前処理、モデルの頑健性評価などがあります。 Model Inversion攻撃との違いは、前者が誤判定を、後者が学習情報の推定を狙う点です。