G検定（ジェネラリスト検定） ディープラーニングの概要 練習問題 第11問: L1正則化とL2正則化の説明として、最も適切なものはどれか。

正解: 1. L1正則化は重みの絶対値の和を罰則とし、一部の重みがちょうど0になりやすいので、特徴量の選択にも使われる。

肢1が正解です。Deep Learning（Goodfellowら）の7.1.2節は、L1正則化（重みの絶対値の和）はL2正則化より疎な解、つまり一部の重みが0になる解を生みやすく、その性質が特徴量の選択に広く使われてきたと説明し、L1の罰則を線形モデルに組み込んだ例としてLASSO（ラッソ）を挙げています。肢2は不適切で、同節はL2正則化では0でない重みは0にならないと述べています。肢3は逆で、7.1.1節のとおりL2正則化はリッジ回帰とも呼ばれ、ラッソはL1です。肢4は逆で、7.1節のとおり係数を大きくするほど正則化が強くなり、訓練データへの当てはまりは抑えられます。

関連キーワード: L1 正則化・L2 正則化・ラッソ回帰・リッジ回帰・正則化