G検定（ジェネラリスト検定） AI倫理・AIガバナンス 練習問題 第12問: 画像分類モデルに対する「敵対的サンプル（Adversarial Examples）」の説明として、最も適切なものはどれか。

正解: 1. 元の画像に人がほとんど気付かない小さな摂動を加えて作られ、学習済みのモデルに誤った分類をさせる入力

肢1が正解です。Szegedyら（2013年に投稿された論文「Intriguing properties of neural networks」）は、人が知覚できないほど小さな摂動を加えるだけでニューラルネットワークに画像を誤分類させられることを示しました。Goodfellowら（2014年）は、その原因をモデルの線形性で説明し、敵対的サンプルを素早く作る方法と、それを学習に使う敵対的学習を提案しています。NISTの報告書（NIST AI 100-2 E2025）は、運用中のモデルへの入力を細工するこの種の攻撃を回避攻撃に分類しています。肢2はGANの生成器の出力で、「敵対的」という語が共通するだけの別物です。肢3はデータ拡張、肢4はテストデータの説明です。名前の似た「敵対的生成ネットワーク」と取り違えないようにしましょう。

関連キーワード: Adversarial Examples・Adversarial Attack・回避攻撃・敵対的学習