G検定（ジェネラリスト検定） ディープラーニングの概要 練習問題 第29問: 分類モデルの学習で、交差エントロピーを誤差関数にすることと最尤推定の関係に関する説明として、最も適切なものはどれか。

肢3が正解です。Deep Learning（Goodfellowら）の5.5節は、最尤推定を、訓練データが定める経験分布とモデルの分布の違いを小さくすることと見なせ、その最小化は両者の交差エントロピーの最小化とちょうど一致すると説明しています。

肢1は不適切で、同節のとおり対数をとっても最大になるパラメータは変わらず、積を和に直せて数値のアンダーフローも避けられるので、対数尤度を使います。

肢2は不適切で、同書5.5.1節のとおり、教師あり学習の多くでは入力 x が与えられたときの条件付き確率 P(y | x) の尤度を最大化します。

肢4は逆で、6.2.1.1節は、モデルの p(y | x) を決めれば誤差関数 −log p(y | x) が自動的に決まり、誤差関数をモデルごとに設計する手間が省けると述べています。