G検定（ジェネラリスト検定） ディープラーニングの概要 練習問題 第39問: ニューラルネットワークの隠れ層に非線形の活性化関数を使う理由に関する説明として、最も適切なものはどれか。

「何層重ねても層の変換は1つの線形変換にまとめられ」とする記述が適切です。Deep Learning（Goodfellowら）の6.1節は、隠れ層の変換を線形にするとネットワーク全体も入力の線形関数のままで、重みの積を1つの重みにまとめた線形モデルと同じになるため、特徴を表すには非線形の関数が要ると述べています。

「隠れ層の数を十分に増やせば」は、線形の変換をいくつ合成しても線形のままである点を見落としています。「出力が入力によらず一定」は誤りで、出力は入力の線形関数として入力に応じて変わります。

「要るのは出力層で」は逆で、非線形の変換が要るのは特徴を作る隠れ層です。回帰の出力層は線形のユニットがよく使われ、非線形性は隠れ層で入れるという役割の違いを押さえましょう。