G検定(ジェネラリスト検定) AI倫理・AIガバナンス 練習問題 第36問: AIセーフティ・インスティテュート(AISI)の「AIセーフティに関するレッドチーミング手法ガイド」(第1.10版・2025年3月)が説明するレッドチーミングと
AIセーフティ・インスティテュート(AISI)の「AIセーフティに関するレッドチーミング手法ガイド」(第1.10版・2025年3月)が説明するレッドチーミングとして、最も適切なものはどれか。
解答と解説を先に見る
先に見ると、この問題は今回は育ちません。
正解: 3. 攻撃者がどのようにAIシステムを攻撃するかという観点から、開発者や提供者がAIセーフティへの対応体制や対策の有効性を確かめる評価手法である。
肢3が正解です。AISIの同ガイドは、レッドチーミングを、攻撃者がどのようにAIシステムを攻撃するかの観点で、AIセーフティへの対応体制及び対策の有効性を確認する評価手法と定義し、AIシステムの開発者や提供者が施した対策を攻撃者の視点から評価する手法だと説明しています。
肢1は誤りで、同ガイドは、初回はリリース・運用開始前に行うことを基本としつつ、一度実施して完了ではなく、モデルの更新やシステムプロンプトの変更などに応じて定期的・随時に行うことが望ましいとしています。
肢2は、許可のない外部の活動としている点が誤りです。肢4も誤りで、実施のリソースや期間は限られるため、攻撃が成功しなかったことは、攻撃者からのあらゆる攻撃が成功しないことの保証にはならないとしています。
関連キーワード: レッドチーミング・AIセーフティ・安全性・脆弱性
模試 (145問)
本試験の規模にそろえて、8分野を通して解く
オンライン試験の案内(145問程度・100分)にそろえた145問・100分(1つあたり約41秒)で、技術分野から法律・倫理まで8分野を混ぜて解きます。JDLAは分野ごとの出題数と合格ラインを公表していないため、配分と70%の目安はぴよパスの設定です。100分を取れない日は、開始画面で41分の短縮演習も選べます。Premium (月980円)Premium (ご利用中)時間制限つきの実力チェック