作業ログ · フットワーク · 不採用モデル

作業ログ: シャドウクローン:ムエタイの4つの技を並行して学ぶ

速いステップとステップジャブ(中止)

著者 ヤム トニー(Tony Yum) · 2026年10月22日

学習コスト 約$9.49vast.ai でレンタルした RTX 5090 35台(うち2台はランのログからコストを算出。ほかに3台は起動せず費用なし)、2026年10月22日 · 学習ラン25回、マシン35台、約12.6マシン時間

GPU 向けに書き直した環境一式で最初に行った仕事です。私の足を撮った 1.5 s のクリップ(1歩踏み込んで、まっすぐ下がる)から作った、間合いへの速い出入りのステップと、遠い標的に届くように踏み込むジャブです。親であり教師でもあったのは、それまでの技をすべて知っている opp15-14.5M です。学習前のステップの技は、ステップジャブが 3/40、速いステップが 9/32 でした。

ラン

どのランも短く(約 0.2–0.6 h)、直前のランからウォームスタートし、変更は1つずつです。

ラン変更点
step0動作確認:GPU 環境一式で毎秒約22,000ステップ(3台、約$0.2)
step1–2速いステップとステップジャブ。足の配置の項を広げた(27.2 M:ステップジャブ 5/40、速いステップ 11/32)
step3–5ステップジャブの時計を遅くし、距離のカリキュラム、足の接地を修正、速いステップを専用のボタンに
step6a/b, 7a/b教師の重みの A/B テスト。教師なしの診断(ほかの技を何も保持しないとき、何かを覚えるか?)
step8–10届く距離のカリキュラム、ステップジャブは届いたら報酬、上限 0.30 m
step11–14跳ねずに滑る、長いステップのみ、途中から開始(参照状態初期化)、押し出しはその瞬間に報酬
step15–18踏み込みを作り直し(まず体重を後ろへ)、長いステップを遅く、着地の間は教師をオフ
fs1教師なしの速いステップ専門、すべてのエピソードを間合いのエピソードに
step19–20b長いステップを後ろ脚で蹴り出すように。スタイルよりスピードと距離を優先し、次にそれをカリキュラムに

なぜ止めたのか

長い踏み込みは、後ろ脚で蹴り出して移動することを最後まで覚えませんでした。下がるステップも、遅くした速度でしか距離を稼げませんでした。step20b のあとで止めました。「どれもうまくいっていない。あきらめよう……もっと良いモーションキャプチャを使って、全部一からやり直す。」ステップの環境とそのツールはコードから削除しました。ランのログとチェックポイントは残してあり、ステップは新しい参照モーションで戻ってくる予定です。

すべてのラン

kakuto-mlのラン記録から作成しています。各ランのマシン、課金された時間とコストです(EC2のランはランのログからの推定値です)。この作業ログに含まれるテストとレンダリングも載せています。

ラン結果マシン時間コスト
step20b-2026102210月22日中止10.7$0.50
step20-2026102210月22日中止10.4$0.29
step19-2026102210月22日 · 採用 step19-4.8M採用10.4$0.32
fs1-2026102210月22日中止10.2$0.17
step18-2026102210月22日 · 採用 step18-22M採用10.5$0.42
step17-2026102210月22日 · 採用 step17-9.5M採用10.2$0.13
step16-2026102210月22日 · 採用 step16-8.0M採用10.2$0.14
step15-2026102210月22日 · 採用 step15-17.2M採用10.4$0.38
step14-2026102210月22日 · 採用 step14-16.1M採用10.4$0.32
step13-2026102210月22日 · 採用 step13-16.2M採用10.3$0.24
step12b-2026102210月22日 · 採用 step12b-10.3M採用10.3$0.25
step12-2026102210月22日中止10.2$0.15
step11-2026102210月22日 · 採用 step11-12.4M採用10.3$0.24
step10-2026102210月22日 · ジャブ · 採用 step10-28.5M採用10.6$0.44
step9-2026102210月22日 · ジャブ · 採用 step9-22.4M採用41.2$0.93
step8-2026102210月22日 · ジャブ · 採用 step8-21.5M採用10.5$0.38
step7b-2026102210月22日 · ジャブ中止20.4$0.33
step7a-2026102210月22日 · ジャブ · 採用 step7a-18.4M採用10.5$0.31
step6a-2026102210月21日 · ジャブ中止10.4$0.25
step6b-2026102210月21日 · ジャブ · 採用 step6b-12.0M採用10.3$0.27
step5-2026102210月21日 · ジャブ · 採用 step5-19.4M採用10.5$0.42
step4-2026102210月21日 · ジャブ · 採用 step4-34.3M採用10.7$0.56
step3-2026102210月21日 · ジャブ · 採用 step3-15.7M採用10.4$0.23
step2-2026102210月21日 · ジャブ中止10.5$0.29
step1-2026102210月21日 · ジャブ · 採用 step1-27.2M採用31.4$1.01
step0-2026102210月21日テスト30.7$0.48
学習ラン25回3412.5$9.42
  • the CUDA-graph crash test, 22 October (gpu-rewrite): マシン1台、0.1時間、$0.07

← 「シャドウクローン:ムエタイの4つの技を並行して学ぶ」のすべての作業ログ