G検定（ジェネラリスト検定） ディープラーニングの概要 練習問題 第6問: 次の文の空所（　）に入る語として、最も適切なものはどれか。 多クラス分類の出力層では、各クラスに対応する値を指数関数で変換してからその総和で割り、各出力が0より

正解: 3. ソフトマックス

肢3が正解です。Deep Learning（Goodfellowら）の6.2.2.3節は、ソフトマックス関数を softmax(z)_i = exp(z_i) / Σ_j exp(z_j) と定義し、n個のクラスにわたる確率分布を表すために分類器の出力として最もよく使われると説明しています。同節はこれを、2値の確率を表すシグモイド関数を多クラスに一般化したものと位置付けています。肢2のシグモイド関数は1つの値を0〜1に写す関数で、クラスごとに別々に使っても総和が1になるとは限りません。肢1のReLUは0以上の値を上限なく出し、肢4のtanh（ハイパボリックタンジェント関数）は負の値もとるので、どちらも確率の条件を満たしません。

関連キーワード: ソフトマックス関数・シグモイド関数・活性化関数