G検定（ジェネラリスト検定） ディープラーニングの概要 練習問題 第26問: 重み w にL2正則化の罰則 (λ/2)w² を加えた誤差関数を、勾配降下法で1回更新する。w = 2.0、罰則を加える前の誤差関数の勾配 ∂J/∂w = 0.

肢1が正解です。罰則 (λ/2)w² を w で微分すると λw なので、更新式は w ← w − η(∂J/∂w + λw) です（Deep Learning（Goodfellowら）7.1.1節の式7.4）。

λw = 0.1 × 2.0 = 0.2

勾配の合計 = 0.5 + 0.2 = 0.7

w = 2.0 − 0.5 × 0.7 = 2.0 − 0.35 = 1.65

同節のとおり、この更新は w ← (1 − ηλ)w − η ∂J/∂w と書き直せ、勾配による更新の前に重みを一定の割合で縮める（重み減衰）働きをします。肢2の1.75は罰則の勾配を足し忘れた値、肢3の1.55は罰則の微分を 2λw（罰則を λw² と読んだ場合）とした値、肢4の2.35は勾配と逆向きではなく同じ向きに動かした値です。

罰則に付いた1/2が微分で消える点を確かめましょう。