G検定(ジェネラリスト検定) ディープラーニングの応用例 練習問題 第50問: モデル圧縮の手法Deep Compression(Han ほか, arXiv 2015年)の説明として、最も適切なものはどれか。
ディープラーニングの応用例
– / 66 解いた
第50問
モデル圧縮の手法Deep Compression(Han ほか, arXiv 2015年)の説明として、最も適切なものはどれか。
解答と解説を先に見る
先に見ると、この問題は今回は育ちません。
正解: 1. 小さい重みの結合を除く枝刈り、重みを共有させる量子化、ハフマン符号化を順に行い、最初の2段階の後に再学習する。
肢1が正解です。Deep Compressionの論文(Han ほか)は、枝刈り・学習つきの量子化・ハフマン符号化の3段階のパイプラインを示しました。
まず通常の学習の後にしきい値より小さい重みの結合を取り除き、次に重みをk平均法でまとめて複数の結合に同じ重み(代表値)を共有させ、最後に値の偏りを利用してハフマン符号化します。最初の2段階の後に再学習して、残った結合と量子化した代表値を微調整します。
肢2は順序と再学習の有無が誤りです。
肢3は誤りで、論文は精度に影響を与えずに記憶に必要な容量を減らすことを目標としています。
肢4は誤りで、量子化は複数の結合に重みを共有させるために行います。
関連キーワード: モデル圧縮・プルーニング・量子化・ハフマン符号化
広告
模試 (145問)
本試験の規模にそろえて、8分野を通して解く
オンライン試験の案内(145問程度・100分)にそろえた145問・100分(1つあたり約41秒)で、技術分野から法律・倫理まで8分野を混ぜて解きます。JDLAは分野ごとの出題数と合格ラインを公表していないため、配分と70%の目安はぴよパスの設定です。100分を取れない日は、開始画面で41分の短縮演習も選べます。Premium (月980円)Premium (ご利用中)時間制限つきの実力チェック
広告