G検定（ジェネラリスト検定） ディープラーニングの要素技術 練習問題 第23問: VAE (変分オートエンコーダ) を発展させた VQ-VAE の特徴として、最も適切なものはどれか。

正解: 3. エンコーダの出力を、学習で更新するコードブックの中で最も近いベクトルに置き換え、離散的な潜在表現を使う。

肢3が正解です。VQ-VAE を提案した論文 (van den Oord ら, 2017) は、VAE との違いを2点挙げています。エンコーダが連続ではなく離散の符号を出力すること、事前分布を固定せずに学習することです。離散の潜在表現を得るため、ベクトル量子化の考え方を取り入れ、エンコーダの出力を埋め込みベクトルの集まり (コードブック) の中で最も近いものに置き換えます。肢1は GAN の説明です。肢2は、潜在変数を連続の分布として扱い、事前分布を固定する通常の VAE の説明で、VQ-VAE とは異なります。肢4は言語モデルの説明です。VAE は連続、VQ-VAE は離散の潜在表現と対比して覚えます。

関連キーワード: VQ-VAE・VAE・潜在変数・ベクトル量子化