G検定（ジェネラリスト検定） AI倫理・AIガバナンス 練習問題 第52問: 米国NISTの報告書（NIST AI 100-2 E2025）は、予測を行うAIシステムへの攻撃を、攻撃が行われる学習の段階や攻撃者の目的などの軸で分類している

「攻撃者の目的は、可用性の侵害、完全性の侵害、プライバシーの侵害の3つに分けられている」が適切です。NIST AI 100-2 E2025は、予測を行うAIへの攻撃を、学習の段階、攻撃者の目的、能力、知識の軸で整理し、目的をこの3つに分けています。

「データ汚染攻撃は、運用の段階で…入力に細工」は段階の取り違えで、汚染攻撃は学習の段階で学習データやモデルのパラメータを操る攻撃です。入力に細工して予測を変えるのは、運用の段階の回避攻撃です。

「可用性の侵害の1つにまとめられ」は、完全性とプライバシーの侵害を落としています。「プライバシー攻撃は学習の段階の攻撃」も誤りで、報告書は運用中のモデルへの問い合わせから学習データやモデルの情報を推定する攻撃を扱っています。

生成AIへの攻撃では、この3つに悪用を可能にする目的が加わる点も押さえましょう。