G検定（ジェネラリスト検定） ディープラーニングの応用例 練習問題 第26問: 機械学習モデルの予測を説明する手法に関する説明として、最も不適切なものはどれか。

正解: 3. Permutation Importanceは、値を並べ替えても性能が下がらない特徴量ほど重要と判断する。

肢3が不適切です。scikit-learnの利用者ガイドは、Permutation Importanceを、1つの特徴量の値を無作為に並べ替えたときにモデルの性能がどの程度下がるかで、モデルがその特徴量にどれほど頼っているかを測る方法と説明しています。並べ替えても性能が下がらなければ、その特徴量は重要でないと判断します。肢4は適切で、同じガイドはこの方法がどのような学習済みのモデルにも使えるモデル非依存の手法だとしています。肢1はLIMEの論文（Ribeiro ほか）のとおりで、個々の予測の周りを解釈しやすいモデルで局所的に近似します。肢2はSHAPの論文（Lundberg・Lee）のとおりで、シャープレイ値にもとづいて各特徴量の寄与を割り当てます。

関連キーワード: LIME・SHAP・Permutation Importance・説明可能AI