生成AIパスポート試験 生成AIの仕組みと歴史 練習問題 第10問: LSTMが従来型RNNの学習上の課題へ対処するために導入した仕組みとして最も適切なのはどれか。

正解: 4. 誤差を保ちやすい内部状態と、情報を制御するゲート

LSTMは一定の誤差流を保つ内部状態と乗算ゲートを用い、長い時間差で誤差が消えやすい問題へ対処した。「勾配クリッピング」は勾配の爆発を抑える学習上の工夫で、LSTMが導入した内部構造ではない。「活性化関数をReLUに置き換える」も勾配消失への別の対策で、LSTMの仕組みではない。「位置を無視する並べ替え」は系列学習を壊す。

関連キーワード: LSTM・RNN・長期依存・ゲート