データサイエンティスト検定 リテラシーレベル データサイエンス(数学・統計・可視化) 練習問題 第36問: 1 つのパラメータ w をもつモデルの損失が L(w) = (w − 3)² + 1 で表される。いま w = 5 であり、勾配降下法により学習率 0.1 で
データサイエンス(数学・統計・可視化)
– / 96 解いた
第36問
1 つのパラメータ w をもつモデルの損失が L(w) = (w − 3)² + 1 で表される。いま w = 5 であり、勾配降下法により学習率 0.1 で w を 1 回だけ更新する。更新後の w の値として、最も適切なものはどれか。
解答と解説を先に見る
先に見ると、この問題は今回は育ちません。
正解: 2. w = 4.6
「w = 4.6」が適切です。勾配降下法は、損失関数の傾き(導関数の値)を使い、損失が減る向きにパラメータを動かす方法です。
1 回の更新は「新しい w = w − 学習率 × L′(w)」で表せます。L(w) = (w − 3)² + 1 を微分すると L′(w) = 2(w − 3) で、w = 5 では 2 × 2 = 4 です。
よって 5 − 0.1 × 4 = 4.6 となります。「w = 5.4」は傾きの向きに足してしまい、損失が増える方へ動かしています。
「w = 4.8」は微分で前に出る 2 を落とし、傾きを 2 として 5 − 0.1 × 2 と計算しています。「w = 4.5」は傾きではなく損失の値 L(5) = 2² + 1 = 5 を使い、5 − 0.1 × 5 と計算しています。
出典:『高等学校情報科「情報Ⅱ」教員研修用教材』(文部科学省)を加工して作成。更新に使うのは損失の値ではなく傾きで、傾きと逆の向きに動かすと押さえましょう。
関連キーワード: 勾配降下法・導関数・学習率・損失関数
模試 (100問)
この問題が解けたら、本試験はどうですか?本番形式で、ほかの科目もまとめて確かめる
本番形式の模擬試験で実力チェックPremium (月980円)Premium (ご利用中)本番と同じ制限時間
広告