G検定（ジェネラリスト検定） ディープラーニングの応用例 練習問題 第64問: ある小売企業の分析担当者は、互いに強く相関する2つの特徴量X（来店回数）とY（購買回数）を含むデータで予測モデルを学習した。検証データでの精度は十分に高かったが

「一方の値を並べ替えても、モデルは相関するもう一方から同じ情報を得られるので、2つとも実際より低く出ることがある」が適切です。scikit-learnのユーザーガイドは、相関する2つの特徴量の一方を並べ替えても、モデルは相関するもう一方を通じて情報を得られるため、実際には重要でも両方の重要度が低く出ると説明し、相関する特徴量をクラスタにまとめて各クラスタから1つを残す対処を挙げています。

「n_repeats」は並べ替えを繰り返す回数で、その回数分の重要度の標本を返す設定です。「重要度が高めに出やすい」は向きが逆で、低く出たことから寄与が小さいとは言えません。

「特徴量そのものの予測力を表す」も誤りで、ガイドは、この重要度は特定のモデルにとっての重要さを表すとしています。相関する特徴量があるときは、重要度が低くても不要と決めつけない点を押さえましょう。