G検定（ジェネラリスト検定） AIの社会実装と数理・統計 練習問題 第15問: モデルのパラメータを推定する最小二乗法と最尤法に関する説明として、最も適切なものはどれか。

正解: 2. 最小二乗法は残差の二乗和が最小になるパラメータを選び、最尤法は尤度が最大になるパラメータを選ぶ。

肢2が正解です。NIST/SEMATECH e-Handbookによると、最小二乗法は観測値とモデルの値の差（残差）の二乗和が最小になるようにパラメータを決める方法です。最尤法は、選んだ確率モデルのもとでそのデータが得られる確率（尤度）を式に表し、それを最大にするパラメータを推定値とする方法です。肢1は2つの方法の説明が入れ替わっています。肢3の「残差の絶対値の和を最小にする」は二乗を使わない別の基準で、最小二乗法ではありません。肢4の「事前分布と尤度の積を最大にする」のは、Goodfellowら『Deep Learning』5.6.1節の最大事後確率（MAP）推定で、事前分布を使わない最尤法とは別の方法です。「二乗」「尤度」「事前分布」のどれを使うかで区別しましょう。

関連キーワード: 最小二乗法・最尤法・尤度