G検定（ジェネラリスト検定） 機械学習の概要 練習問題 第49問: n 件のデータでモデルのテスト誤差を推定するときの、1つ抜き交差検証（leave-one-out cross-validation：LOOCV）と、k＜nのk分

正解: 2. LOOCVは、ほぼ同じデータで学習した n 個のモデルの結果が強く相関するので、k分割交差検証より推定の分散が大きくなりやすい

「ほぼ同じデータで学習した n 個のモデルの結果が強く相関するので…分散が大きくなりやすい」が適切です。James らの『An Introduction to Statistical Learning』5.1.4節は、LOOCVの訓練集合は n−1 件で全体とほぼ同じなので推定はほぼ不偏だが、ほぼ同じデータで学習した n 個のモデルの出力は強く相関し、その平均は分散が大きくなるため、k分割より分散が大きくなりやすいとしています。「n 個のモデルの結果を平均するので…分散が小さくなりやすい」は分散の向きが逆です。「LOOCVのほうが推定の偏りは大きくなりやすい」は偏りの向きが逆です。「k を小さくするほど各訓練集合の件数が増える」は誤りで、件数は (k−1)n/k なので k を小さくすると減り、偏りは大きくなりやすいです。偏りと分散の釣り合いから、k＝5 や 10 がよく使われます。

関連キーワード: k-分割交差検証・交差検証・汎化性能