G検定(ジェネラリスト検定) ディープラーニングの概要 練習問題 第24問: 3クラス分類のモデルが、ある画像に対して(クラス1、クラス2、クラス3)=(0.5、0.25、0.25)の確率を出力した。正解はクラス2である。交差エントロピー
3クラス分類のモデルが、ある画像に対して(クラス1、クラス2、クラス3)=(0.5、0.25、0.25)の確率を出力した。正解はクラス2である。交差エントロピー誤差 E = −Σ_k t_k ln y_k(t は正解のクラスを1、それ以外を0とするワンホットベクトル、y はモデルの出力、ln は自然対数)の値として、最も適切なものはどれか。必要なら ln 2 = 0.693 とする。
解答と解説を先に見る
先に見ると、この問題は今回は育ちません。
正解: 3. 1.386
肢3が正解です。正解ラベルはワンホットベクトルなので、和のうち残るのは正解のクラス2の項です(Deep Learning(Goodfellowら)6.2.1.1節の負の対数尤度)。
E = −(0 × ln 0.5 + 1 × ln 0.25 + 0 × ln 0.25)
= −ln 0.25 = ln 4 = 2 ln 2
= 2 × 0.693 = 1.386
肢2の0.693は、確率が最も大きいクラス1の0.5を代入した値(−ln 0.5 = ln 2)です。肢1の0.25は正解のクラスの確率そのもので、対数をとっていません。
肢4の2は底を2にした対数(−log₂ 0.25)の値で、問題の自然対数とは違います。どのクラスの確率を代入するかと、対数の底を取り違えないようにしましょう。
関連キーワード: 交差エントロピー・誤差関数・自然対数
模試 (145問)
本試験の規模にそろえて、8分野を通して解く
オンライン試験の案内(145問程度・100分)にそろえた145問・100分(1つあたり約41秒)で、技術分野から法律・倫理まで8分野を混ぜて解きます。JDLAは分野ごとの出題数と合格ラインを公表していないため、配分と70%の目安はぴよパスの設定です。100分を取れない日は、開始画面で41分の短縮演習も選べます。Premium (月980円)Premium (ご利用中)時間制限つきの実力チェック