G検定（ジェネラリスト検定） ディープラーニングの応用例 練習問題 第25問: 画像分類のCNNの判断根拠を可視化する手法に関する説明として、最も適切なものはどれか。

正解: 4. Grad-CAMは、対象クラスのスコアから最後の畳み込み層へ流れる勾配を使い、予測に効いた領域を示すマップを作る。

肢4が正解です。Grad-CAMの論文（Selvaraju ほか）は、対象となるクラスのスコアから最後の畳み込み層へ流れる勾配を使って、予測に重要な画像上の領域を示す粗い位置のマップを作る方法を示しました。構造の変更や再学習をせずに多くの種類のCNNに適用できるとしています。肢1は誤りで、CAM（Zhou ほか）は最後の畳み込み層の後にグローバル平均プーリングを置く構造を前提とし、Grad-CAMはこの制約をなくすようにCAMを一般化したものです。肢2は誤りで、Grad-CAMは勾配を使います。肢3は誤りで、Grad-CAMは画像上の位置を示す可視化の手法です。

関連キーワード: CAM・Grad-CAM・説明可能AI・モデルの解釈性