G検定（ジェネラリスト検定） AI倫理・AIガバナンス 練習問題 第37問: NISTの報告書（NIST AI 100-2 E2025）は、機械学習システムへの攻撃を、攻撃者がそのシステムについてどれだけ知っているかで3つに分けている。こ

肢4が不適切です。NISTの報告書（NIST AI 100-2 E2025）は、ホワイトボックス攻撃の前提は非常に強いとしながらも、それを分析する主な理由は、最悪の場合の攻撃者に対するシステムの脆弱性を確かめ、考えられる防御策を評価することにあると説明しています。

肢1はホワイトボックス攻撃、肢2はブラックボックス攻撃、肢3はグレーボックス攻撃の説明として正しい記述です。同報告書は、攻撃者の知識とは別に、学習段階か運用段階かという攻撃の段階や、攻撃者の目的・能力でも攻撃を分類しています。

AISIのレッドチーミング手法ガイドも、内部構造の情報をどこまで知っているかによって、ブラックボックス・ホワイトボックス・グレーボックスのテストを区別しています。前提が強い攻撃ほど、守る側の点検に使われると押さえましょう。