G検定(ジェネラリスト検定) ディープラーニングの要素技術 練習問題 第25問: 画像分類のCNNで、最後の畳み込み層の出力が縦7×横7×512チャネルの特徴マップになる。この後にグローバルアベレージプーリング (GAP) を置き、続けて10
画像分類のCNNで、最後の畳み込み層の出力が縦7×横7×512チャネルの特徴マップになる。この後にグローバルアベレージプーリング (GAP) を置き、続けて10クラスのスコアを出力する全結合層を1つ置く。全結合層はクラスごとにバイアスを1つ持つ。GAPと全結合層が学習するパラメータ (重みとバイアス) の数の合計として、最も適切なものはどれか。
解答と解説を先に見る
先に見ると、この問題は今回は育ちません。
正解: 1. 5,130
肢1が正解です。GAPは各チャネルの特徴マップ (7×7) の値の平均を1つとる処理で、Network In Network の論文 (Lin ら, 2013) のとおり、最適化するパラメータを持ちません。
出力は512個の値になります。
GAP: 0
全結合層: 512 × 10 (重み) + 10 (バイアス) = 5,130
合計: 0 + 5,130 = 5,130
肢2の250,890は、GAPを使わずに特徴マップを平坦化して全結合層につないだ場合の値 (7 × 7 × 512 × 10 + 10) です。肢3の5,120はバイアスを数え忘れた値、肢4の30,218はGAPが入力の値ごとに重み (7 × 7 × 512 = 25,088個) を持つと数えて足した値です。
GAPで平坦化を置き換えると、全結合層の重みは縦横の位置の数で割った49分の1になります。
関連キーワード: グローバルアベレージプーリング・全結合層・パラメータ数・Network In Network
模試 (145問)
本試験の規模にそろえて、8分野を通して解く
オンライン試験の案内(145問程度・100分)にそろえた145問・100分(1つあたり約41秒)で、技術分野から法律・倫理まで8分野を混ぜて解きます。JDLAは分野ごとの出題数と合格ラインを公表していないため、配分と70%の目安はぴよパスの設定です。100分を取れない日は、開始画面で41分の短縮演習も選べます。Premium (月980円)Premium (ご利用中)時間制限つきの実力チェック