RNNはリカレント 再帰型 ニューラルネットワーク 対象データは時系列データ ネットワーク内部に ループ構造 時系列データは 株価 音声 動画 自然言語の文章は系列データ 前後関係や順序に 意味があるデータ ネットワーク内部に ループをもつ 再帰構造のループは閉路 過去の隠れ層の状態を 次の時刻の中間層の 入力として利用 前の時刻の情報を 今の判断に使う仕組み 入力データは可変長 文章の長さが違っても 対応可能 RNNの学習はBPTT 時間方向に展開した 誤差逆伝播法 過去にさかのぼって 誤差を伝播 重みを更新 課題は勾配消失問題 長い時系列データは 勾配が小さくなる 長期的な依存関係を 学習できない 解決策はLSTMやGRU RNNは時系列データや 自然言語の文章
