G検定(ジェネラリスト検定) ディープラーニングの応用例 練習問題 第48問: 米国NISTの報告書「Four Principles of Explainable Artificial Intelligence」(NISTIR 8312,
米国NISTの報告書「Four Principles of Explainable Artificial Intelligence」(NISTIR 8312, 2021年9月)が示す説明可能AI(XAI)の4つの原則に関する説明として、最も不適切なものはどれか。
解答と解説を先に見る
先に見ると、この問題は今回は育ちません。
正解: 4. 「説明の正確さ」の原則は、システムの判断そのものが正しいこと、すなわち予測の正解率が高いことを求める。
肢4が不適切です。NISTIR 8312は、「説明の正確さ」を、説明がシステムの出力を生んだ理由や処理を正しく反映していることと定め、システムの判断が正しいかどうかを表す判断の正確さ(decision accuracy)とは別の概念だとしています。
判断が正しくても、その説明が判断の過程を正しく表しているとは限りません。
肢1は「説明」の原則のとおりで、この原則だけでは説明の正しさや分かりやすさを問いません。
肢2は「有意味」の原則のとおりで、受け手の知識や役割によって意味のある説明が変わるとしています。
肢3は「知識の限界」の原則のとおりで、鳥の種類を見分けるシステムにリンゴの画像が入力された場合や、画像がぼやけて確信度が低い場合にそれを示す例を挙げています。
関連キーワード: 説明可能AI・XAI・NIST・モデルの解釈性
模試 (145問)
本試験の規模にそろえて、8分野を通して解く
オンライン試験の案内(145問程度・100分)にそろえた145問・100分(1つあたり約41秒)で、技術分野から法律・倫理まで8分野を混ぜて解きます。JDLAは分野ごとの出題数と合格ラインを公表していないため、配分と70%の目安はぴよパスの設定です。100分を取れない日は、開始画面で41分の短縮演習も選べます。Premium (月980円)Premium (ご利用中)時間制限つきの実力チェック