ぴよパス生成AIパスポート試験 生成AIの仕組みと歴史 練習問題 第14問: Transformerで位置エンコーディングを入力表現へ加える主な理由はどれか。
この科目 –/36 解いた
中級推定正答率 約 60%
Transformerで位置エンコーディングを入力表現へ加える主な理由はどれか。
解答と解説を先に見る
正解: 2. 入力表現に系列中の順序や位置の情報を与えるため
Transformerは再帰や畳み込みを使わないため、順序を表す位置エンコーディングを入力埋め込みへ加える。語どうしの関連度に応じて重みを付けるのは自己注意機構、入力を出力に足し合わせるのは残差接続、学習時に一部のユニットを無効化するのはドロップアウトの役割である。
関連キーワード: 位置エンコーディング・Transformer・系列順序
模試 (60問)
5分野を横断して、知識の穴を見つける
公式試験には一部複数選択がありますが、ぴよパス模試は復習しやすい単一正解のオリジナル四択です。公式の章別配分・合格基準点は非公表のため、独自配分・60%を学習上の目安にしています。Premium (月980円)Premium (ご利用中)時間制限つきの実力チェック
広告