G検定(ジェネラリスト検定) ディープラーニングの応用例 練習問題 第63問: 画像や動画と文章を扱うモデルFlamingo(Alayrac ほか, arXiv 2022年)の構成の説明として、最も適切なものはどれか。
画像や動画と文章を扱うモデルFlamingo(Alayrac ほか, arXiv 2022年)の構成の説明として、最も適切なものはどれか。
解答と解説を先に見る
先に見ると、この問題は今回は育ちません。
正解: 2. 事前学習済みの視覚のモデルと言語モデルを凍結したまま、その間に新しく学習する層を加えてつなぐ。
「事前学習済みの視覚のモデルと言語モデルを凍結したまま、その間に新しく学習する層を加えてつなぐ」が適切です。Flamingoの論文は、凍結した2つのモデルの間に新しい構成要素を加えてつなぐとし、視覚のモデルの出力をPerceiver Resamplerで決まった数の視覚トークンにまとめ、凍結した言語モデルの層と層の間に新しく初期化したクロスアテンションの層を差し込んで、その視覚トークンを取り込む構成を示しました。
「最初から同時に学習して」は、凍結して事前学習の知識を保つ構成と逆です。「画像を出力として生成する」は入出力の取り違えで、Flamingoは画像や動画と文章を入力として文章を出力します。
「交互に並んだ入力は扱えない」も誤りで、交互に並ぶ入力を扱えることが、少数の例を並べて重みを更新せずに新しいタスクに適応する使い方を支えています。
関連キーワード: Flamingo・Few-shot・基盤モデル・マルチモーダル
模試 (145問)
本試験の規模にそろえて、8分野を通して解く
オンライン試験の案内(145問程度・100分)にそろえた145問・100分(1つあたり約41秒)で、技術分野から法律・倫理まで8分野を混ぜて解きます。JDLAは分野ごとの出題数と合格ラインを公表していないため、配分と70%の目安はぴよパスの設定です。100分を取れない日は、開始画面で41分の短縮演習も選べます。Premium (月980円)Premium (ご利用中)時間制限つきの実力チェック