G検定（ジェネラリスト検定） 機械学習の概要 練習問題 第37問: バギングやランダムフォレストで使われるブートストラップ標本とOOB（out-of-bag）に関するAからDまでの記述のうち、適切なものをすべて挙げた組合せはどれ
バギングやランダムフォレストで使われるブートストラップ標本とOOB（out-of-bag）に関するAからDまでの記述のうち、適切なものをすべて挙げた組合せはどれか。 A 各木の学習に使うブートストラップ標本は、元の訓練データと同じ件数を復元抽出で作るため、1回も選ばれないデータが残り、平均すると元のデータのおよそ3分の1がそれに当たる。 B あるデータのOOB予測は、そのデータを学習に使った木の予測を集め、平均や多数決でまとめて作る。 C 木の本数が十分に多ければ、OOB誤差は1個抜き交差検証（データ数と同じ数に分ける交差検証）の誤差とほぼ同じになり、木を増やしながら汎化誤差を見積もれる。 D OOB誤差を求めるには、ブートストラップ標本の元になる訓練データとは別に、検証用のデータを取り分けておく必要がある。
解答と解説を先に見る
正解: 1. A、C
肢1が正解です。Aは適切です。An Introduction to Statistical Learning（James ほか）8.2節は、バギングの各木はブートストラップ標本で学習するので平均して約3分の2のデータしか使わず、残りの約3分の1を OOB データと呼ぶと説明しています。Bは不適切で、OOB 予測は、そのデータが学習に使われなかった木の予測を平均または多数決して作ります。Cは適切で、同書は木の数が十分に多ければ OOB 誤差は1個抜き交差検証の誤差とほぼ同じになるとし、The Elements of Statistical Learning も木を増やしながら評価できるとします。Dは不適切で、ランダムフォレストを提案した Breiman（2001）は、OOB 推定を使えば別に取り分けたテスト集合が要らなくなるとしています。したがって適切なものは A、C で、正解は1です。
関連キーワード: ブートストラップサンプリング・ランダムフォレスト・バギング・アンサンブル学習
模試 (145問)
本試験の規模にそろえて、8分野を通して解く
オンライン試験の案内（145問程度・100分）にそろえた145問・100分（1つあたり約41秒）で、技術分野から法律・倫理まで8分野を混ぜて解きます。JDLAは分野ごとの出題数と合格ラインを公表していないため、配分と70%の目安はぴよパスの設定です。100分を取れない日は、開始画面で41分の短縮演習も選べます。Premium (月980円)Premium (ご利用中)時間制限つきの実力チェック