用語集 · 機械学習

再帰型ニューラルネットワーク

別名:Recurrent neural network、RNN、GRU、LSTM、gated recurrent unit、memory、リカレントニューラルネットワーク、回帰型ニューラルネットワーク、記憶

記憶を持つニューラルネットワーク。隠れ状態をステップからステップへ持ち越すので、前に見たものを使えます。

再帰型ニューラルネットワーク(RNN)は、入力を1ステップずつ読み、隠れ状態 hh という、毎ステップ更新する数値のリストを保持します。

ht=f(ht−1,xt)h_t = f(h_{t-1}, x_t)

各ステップの出力は hth_t に依存するので、現在の入力だけでなく、それまでに見たあらゆるものに依存できます。そのため RNN は、音声、テキスト、そして対戦相手の動きといった系列に向いています。

素朴な RNN は長く覚えておくのが苦手です。初期の入力の影響が、多くのステップを通るうちに薄れて(あるいは爆発して)しまうからです。LSTM と、より単純な GRU(ゲート付き回帰ユニット)は、ゲートを追加します。何を残し、何を忘れ、何を書き込むかを決める、学習される小さなスイッチです。ロボットの制御器に記憶が必要なときは、これらがふつうの選択肢です。

これらは単純なMLPより学習にコストがかかります。ステップを順番に処理しなければならず、学習も時間をさかのぼって行う必要があるからです。短い固定のウィンドウで足りるなら、フレームスタッキングのほうが安上がりです。

このプロジェクトでは

ファイターの方策(ポリシー)は、記憶を持たない MLP です。1発のパンチをブロックするために、代わりに対戦相手の短い履歴を積み重ねたものを受け取ります。GRU は後で導入する計画です。対戦相手を読むために、直近の0.1秒より多くのこと、つまりフェイント、コンビネーション、リズム、癖を覚えておく必要が出てきたときです。

関連用語

この用語が出てくる記事

← すべての用語