G検定（ジェネラリスト検定） ディープラーニングの応用例 練習問題 第49問: ある予測モデルの1件の予測を、2つの特徴量AとBの寄与に分けて説明したい。使う特徴量の組ごとのモデルの出力は、どちらも使わないとき0、Aだけを使うとき10、Bだ

肢3が正解です。SHAPの論文（Lundberg・Lee, 2017年）が示す古典的なシャープレイ値は、ある特徴量を加えたときの出力の増分を、ほかの特徴量のあらゆる組について重み付きで平均した値です。

特徴量が2つなら、Aを先に加える場合と後に加える場合の増分を1/2ずつ平均します。Aを先に加えると10−0＝10、Bの後に加えると40−20＝20なので、Aの寄与は(10＋20)÷2＝15です。

同様にBの寄与は(20＋30)÷2＝25で、2つの和の40が、何も使わないときの出力0から両方を使ったときの出力40への変化に一致します。

肢1はAを最初に加えたときの増分、肢2はAを最後に加えたときの増分だけを見た値です。

肢4はBの寄与です。