G検定（ジェネラリスト検定） ディープラーニングの概要 練習問題 第14問: 入力 x = 3 を受け取り、重み w を使って y = wx を出力する1つのユニットがある。正解を t = 4、誤差を L = (y − t)² とするとき

正解: 4. 12

肢4が正解です。連鎖律により ∂L/∂w = (∂L/∂y) × (∂y/∂w) と分けて計算します（Deep Learning（Goodfellowら）6.5.2節）。 y = wx = 2 × 3 = 6 ∂L/∂y = 2(y − t) = 2 × (6 − 4) = 4 ∂y/∂w = x = 3 ∂L/∂w = 4 × 3 = 12 肢1の6は2乗を微分したときの係数2を落とした値、肢3の4は ∂y/∂w = x を掛け忘れた値、肢2の8は ∂y/∂w を入力 x ではなく重み w = 2 と取り違えた値です。誤差逆伝播法はこの掛け算を出力側から順に繰り返して、各パラメータの勾配を求めます。どの変数で微分しているかを式ごとに確かめましょう。

関連キーワード: 連鎖律・誤差逆伝播法・勾配降下法