G検定（ジェネラリスト検定） ディープラーニングの要素技術 練習問題 第13問: 1日ごとに長さの違う機器の稼働ログ (時系列) を、1つのモデルで扱いたい。RNN (リカレントニューラルネットワーク) がこうした系列を扱える理由として、最も

正解: 1. 各時刻の入力と1つ前の時刻の隠れ状態から、同じ重みで新しい隠れ状態を計算する処理を繰り返すから。

肢1が正解です。RNN は、時刻 t の隠れ状態を、時刻 t の入力と時刻 t − 1 の隠れ状態から同じ関数・同じパラメータで計算し、これを時刻ごとに繰り返します。教科書 Deep Learning (Goodfellow ら) の第10章は、この重みの共有によって、系列の長さに関係なく1つのモデルを使え、学習で見ていない長さの系列にも適用できると説明しています。肢2は RNN の仕組みではありません。肢3は誤りで、前後の時刻を切り離すと時系列の順序の情報を使えません。肢4は誤りで、隠れ状態として過去の情報を持ち越す点が RNN の特徴です。重みを時刻ごとに分けないことが、長さの違いに対応できる理由です。

関連キーワード: 回帰結合層・RNN・隠れ状態・時系列データ