生成AIパスポート試験 情報リテラシー・法務・AI社会原則 練習問題 第13問: 社内AIエージェントが外部ウェブページを読み取り、社内データを使って処理する。生成AI固有の脅威への対策として最も適切なものはどれか。

正解: 4. 外部コンテンツを信頼しない入力として扱い、権限を最小化し、機密操作は検証や人の承認を経る

「外部コンテンツを信頼しない入力として扱い、権限を最小化」が間接プロンプトインジェクションや情報流出を抑える対応です。「埋め込まれた指示を常に安全」とみなすと悪意ある命令を実行しかねません。「人の確認なしで全て自動実行」は影響を拡大します。「権限を最大化」も漏えい時の被害を大きくします。

関連キーワード: 生成AI固有の脅威・間接プロンプトインジェクション・最小権限・情報流出