情報処理安全確保支援士試験 令和7年度 秋期 午前II 問5

【正解】ア

モデルインバージョン攻撃は、AIモデルに入力を与えて得られる出力を手掛かりに、学習に使用されたデータの特徴や元データを推測、復元する攻撃です。攻撃者は入力値を少しずつ変えながら予測結果や確信度などを繰り返し観察し、目的の出力が強く現れる方向へ入力を調整します。その結果、顔画像、医療情報など、学習データに含まれていた秘密情報が推測されるおそれがあります。したがって、元の学習データを推測するアが正解です。

イの説明は誤りです。入出力の組を多数収集し、対象と同等の働きをする別のモデルを作るのは、モデル抽出攻撃又はモデル窃取攻撃です。目的は学習データの復元ではなく、モデルの機能や判断境界の複製です。

ウの説明は誤りです。学習用データセットに不正なデータを混ぜ、特定条件で誤動作させたり精度を低下させたりするのは、データポイズニング攻撃です。これは学習段階に対する攻撃です。

エの説明は誤りです。実行ファイルを逆アセンブル又は逆コンパイルして内部構造やソースコードを調べる行為は、ソフトウェアのリバースエンジニアリングです。モデルへの問い合わせ結果から学習データを推測する攻撃ではありません。

【ポイント】 モデルインバージョンは学習データの推測、モデル抽出はモデル自体の模倣を目的とします。 出力する確信度の粒度を下げることや、問い合わせ回数の制限、差分プライバシーの利用などが対策になります。