G検定(ジェネラリスト検定) 機械学習の概要 練習問題 第42問: ランダムフォレストなどの木のモデルで、分割による不純度の減少から求める特徴量の重要度(MDI)の注意点として、最も適切なものはどれか。
ランダムフォレストなどの木のモデルで、分割による不純度の減少から求める特徴量の重要度(MDI)の注意点として、最も適切なものはどれか。
解答と解説を先に見る
先に見ると、この問題は今回は育ちません。
正解: 3. 訓練データの統計から求めるので、未知のデータでの予測に役立つとは限らず、値の種類が多い特徴量を高く評価しやすい
「訓練データの統計から求めるので…値の種類が多い特徴量を高く評価しやすい」が適切です。scikit-learnのユーザーガイド1.11.2.5節は、不純度にもとづく重要度には、訓練データの統計から計算するので検証用のデータでの予測に効く特徴量を示すとは限らないことと、値の種類の多い特徴量を好むことの2つの欠点があり、並べ替えの重要度(permutation importance)はこれらの欠点を持たないと述べています。
「検証用に取り分けたデータで…測る」は計算に使うデータを取り違えています。「値の種類が少ない特徴量ほど高く出やすい」は偏りの向きが逆で、同ガイド5.2.2節は、2値の特徴量より値の種類の多い数値の特徴量が有利になるとしています。
「木の本数を数えた値」も誤りで、同ガイドは、その特徴量で分けるサンプルの割合と分割による不純度の減少を組み合わせて求めると説明しています。
関連キーワード: ランダムフォレスト・決定木・アンサンブル学習
模試 (145問)
本試験の規模にそろえて、8分野を通して解く
オンライン試験の案内(145問程度・100分)にそろえた145問・100分(1つあたり約41秒)で、技術分野から法律・倫理まで8分野を混ぜて解きます。JDLAは分野ごとの出題数と合格ラインを公表していないため、配分と70%の目安はぴよパスの設定です。100分を取れない日は、開始画面で41分の短縮演習も選べます。Premium (月980円)Premium (ご利用中)時間制限つきの実力チェック