G検定（ジェネラリスト検定） ディープラーニングの応用例 練習問題 第66問: 整数の演算で推論するための量子化を示した研究（Jacob ほか, arXiv 2017年）の、学習の方法に関する説明として、最も適切なものはどれか。

「学習中の計算グラフに重みと活性化の量子化を模擬する節点を入れ、計算は浮動小数点のまま通常の最適化で学習する」が適切です。Jacobらの論文は、重みと活性化を8ビットの整数で表して整数の演算で推論する方式を示し、量子化の後も精度を保つため、学習では量子化を模擬する節点を計算グラフに入れ、変数と計算は32ビットの浮動小数点のまま通常の最適化で学習するとしています。

「学習後に重みを一度丸めて」は、論文が大きなモデルでは十分に働くが小さなモデルでは精度が大きく落ちると指摘した方法です。「8ビットの整数の演算で行い」は学習と推論の取り違えで、整数の演算を使うのは推論です。

「1ビットの2値」は、論文が精度を比べた先行研究の、重みを2値にして活性化は浮動小数点のまま残す方式で、この研究は重みと活性化をともに8ビットにします。量子化の模擬は順伝播で行い、逆伝播は通常どおり行う点も押さえましょう。