G検定（ジェネラリスト検定） AI倫理・AIガバナンス 練習問題 第35問: ある会社は、画像分類モデルの学習を外部の事業者に委託した。納品されたモデルを、手元に取っておいた検証用データで確かめたところ、十分な精度が出た。このモデルに潜み

肢1が正解です。BadNetsの論文（Guら, 2017年に投稿）は、学習を外部に委託したり学習済みモデルを流用したりする場合に、利用者の検証用データでは高い性能を示しながら、攻撃者が選んだ目印（トリガー）を含む入力にだけ誤った出力を返すバックドア付きのネットワークを作れることを示しました。

NISTの報告書（NIST AI 100-2 E2025）も、これを最初のバックドア型のデータ汚染攻撃として紹介しています。

肢2は誤りで、同論文ではトリガーのない入力での精度の低下はわずかでした。

肢3は回避攻撃（敵対的サンプル）の説明で、バックドアは学習段階で仕込まれる点が違います。肢4も誤りで、同論文は、別の課題向けに再学習した後もバックドアが残りうることを示しています。

委託先やモデルの入手元が信頼できるかが重要だと押さえましょう。