用語集 · 機械学習
評価ゲート
別名:Evaluation gate、gate、the gate、evaluation、deterministic evaluation、ゲート、評価、決定的評価
学習済みモデルを採用する前に合格しなければならない固定のテスト一式。ここでは、すべてのスキルを探索ノイズなしで、固定のシードに対して実行します。
学習中、方策(ポリシー)のスコアはノイズだらけです。探索のためにランダムな行動をサンプリングしており(確率的方策を参照)、状況もランダムで、平均値は遅れてついてきます。評価ゲートは、それとは別の固定のテストです。毎回同じシナリオとシードを使い、方策をノイズなしで動かし、各項目に合格ラインを設けます。チェックポイントは合格した場合にだけ採用されます。
ゲートが測るのは、テストしているものだけです。モデルがゲートに合格しても、誰もテストを書いていない点で間違っていることはありえます。これは報酬ハッキングの親戚のようなものです。
このプロジェクトでは
スキルのゲートは、すべてのスキルを固定のシナリオで実行します。パンチは空打ちとサンドバッグに対して120回の入力です。歩きはゴール40個、ブロックは32回の入力(押しありとなしの両方)、対戦相手は160発のパンチ、間合いは60回です。新しい技にはそれぞれ専用の評価があり、打撃速度で 5 cm 以内に当たること、転倒、そして2026年10月26日からは技の後の腰の回転も見ます。ゲートの結果は、学習中の平均値よりもスナップショットごとに大きく揺れます(distill3 のスナップショットではブロックが21から29の間)。そのため、いくつものスナップショットをゲートにかけ、最も良いものを採用します。ゲートに合格しても、動画で見て失敗と判断された教師がいくつもありました。転がるはずが倒れ込むだけのローリングや、90°回ったまま終わる前の手のアッパーカットです(シャドウクローン を参照)。