生成AIパスポート試験 情報リテラシー・法務・AI社会原則 練習問題 第13問: 社内AIエージェントが外部ウェブページを読み取り、社内データを使って処理する。生成AI固有の脅威への対策として最も適切なものはどれか。

正解: 1. 外部入力は信頼せず、権限を最小限にし、機密操作は検証や人の承認を経る

「外部入力は信頼せず、権限を最小限にし、機密操作は検証や人の承認を経る」が適切です。読み取った外部コンテンツを信頼しない入力として扱い、間接プロンプトインジェクションや情報流出を抑えます。システムプロンプトでの指示だけでは間接プロンプトインジェクションを確実には防げないため、権限の制限や人の承認と組み合わせます。実行ログは事後の記録にとどまり、承認なしの自動実行は被害を拡大します。「権限を最大化」も漏えい時の被害を大きくします。

関連キーワード: 生成AI固有の脅威・間接プロンプトインジェクション・最小権限・情報流出