G検定（ジェネラリスト検定） ディープラーニングの概要 練習問題 第42問: 2値分類の出力層でシグモイド関数を使うときの、誤差関数と勾配の関係に関する説明として、最も適切なものはどれか。

「モデルが大きく誤っているときには勾配が小さくならず」とする記述が適切です。Deep Learning（Goodfellowら）の6.2.2.2節は、シグモイド出力の負の対数尤度はソフトプラス関数の形に書け、誤差が飽和するのはモデルがすでに正しい答えを出しているときだけで、極端に誤っているときは勾配がほとんど縮まないと述べています。

「大きく誤っているときほど誤差が飽和し」は向きが逆です。このときシグモイドの出力自体は0か1に張り付いて飽和していますが、対数が指数を打ち消すので誤差は飽和しません。

平均二乗誤差関数で「誤っているときは勾配が保たれる」は誤りで、同節は平均二乗誤差ではシグモイドが飽和すると、答えの正誤にかかわらず勾配が小さくなりうるとしています。「飽和したときの勾配の大きさは変わらない」は、この打ち消しの働きを見落としています。