作業ログ · 実験 · 筋肉 · パンチ · RunPod

作業ログ: モーターの代わりに筋肉で

筋肉、ステージ3:パンチ

著者 ヤム トニー(Tony Yum) · 2026年10月28日

学習コスト 約$11.18RunPod の RTX 5090、RTX 4090、RTX PRO 6000 のポッド、1時間あたり $0.89〜2.49 · 学習ラン10回、マシン16台、約9マシン時間

パンチ環境は、5つのパンチ(ジャブ、クロス、左右のフック、アッパーカット)を学習したときのものです。合図に応じて空中の目標と重いサンドバッグに打ち、その合間に押されます。拳が3.5 m/s以上で目標から5 cm以内を通れば、パンチは命中とみなします。どのランも、その体自身の構えから始めます。サーボの体が基準です。最初のランの前に、筋肉モードをパンチ環境と survive 環境に CPU と GPU の両方で組み込み、GPU 版を CPU 版と両方の体で1ステップずつ照合しました(muscle3check、ポッド6つ)。

ラン

ラン体、開始点変更点結果
jab3sサーボ、その構え押しは最大145 Mステップ:転倒 3%未満、命中 4% → 9%、ずれ 25 → 10 cm
jab3scサーボ押しを段階的に強める(カリキュラム)141 Mステップ:命中 5% → 8%。サーボの体にはカリキュラムの効果なし
jab3m2aの筋肉、muscle2S-33.1M押しは最大転倒 52%、命中なし。31 Mで停止
jab3c2aの筋肉押しのカリキュラム転倒約20%のあと崩壊。命中なし、ずれ 51〜68 cm(腕がガードに残ったまま)。69 Mで停止
jab3r2aの筋肉+ 伸張反射腕は出る(ずれ 28〜31 cm)が、その下の構えは反射なしで学習したもの:転倒 25〜30%、命中なし。39 Mで停止
muscle2R反射ありで2aの構えを一から56.0 Mステップで解けた、姿勢 0.93(採用)
jab3R2a、muscle2R最初から最後まで反射あり転倒約22%、命中なし、拳は 0.5〜2.9 m/s。42 Mで停止
muscle2A脱力した腕:腕の筋肉の静止時の興奮を50%ではなく10%に反射ありで構えを一から47.1 Mステップで解けた、姿勢 0.92(採用)
jab3A脱力した腕、muscle2A3.6 Mステップで筋肉の体の初命中(アッパーカット、4.3 m/s)。その後133 Mまで遅く安全なパンチ:転倒約24%、命中 0.1〜0.6%
jab3N脱力した腕、muscle2A探索ノイズを3分の1に最初から転倒約95%。22 Mで停止

わかったこと

  • 筋肉のパンチは遅すぎて命中に数えられませんでした。 jab3R の拳は0.5〜2.9 m/sで、サーボの体の3〜11に及びません。各腕の筋肉ペアはどちらも半分の興奮で休んでいました。他は何も変えずにジャブの筋肉を強制的に働かせると、拮抗する筋肉を切った状態で拳は8.6 m/sに達し、拮抗筋を半分にした状態では3.0 m/sでした。拮抗筋が腕にブレーキをかけているのです。
  • 脱力した腕で直ったのはブレーキであって、パンチではありませんでした。 腕の筋肉の静止時を10%にすると、パンチの間は拮抗する筋肉が切れ、4 Mステップ以内に筋肉の体の初命中が出ました。その後、方策(ポリシー)は倒れずにいられる遅いパンチを選び、そこにとどまりました。探索ノイズなしでは20回中0回の転倒、ありではエピソードの約4分の1で転倒しました。
  • ここで止めました。次の一歩は、さらにステップを重ねることではなく、もっと大きな仕組み(腕のための教師、あるいは最初はもっと低い速さの基準)です。

すべてのラン

kakuto-mlのラン記録から作成しています。各ランのマシン、課金された時間とコストです(EC2のランはランのログからの推定値です)。この作業ログに含まれるテストとレンダリングも載せています。

ラン結果マシン時間コスト
jab3N-2026102810月28日中止10.4$0.33
jab3A-2026102810月28日不採用22.1$1.86
muscle2A-2026102810月28日 · 採用 muscle2A-47.1M採用–0$0
jab3R-2026102810月28日中止10.5$1.35
muscle2R-2026102810月28日 · 採用 muscle2R-56.0M採用10.5$1.32
jab3r-2026102810月28日中止10.6$0.49
jab3sc-2026102810月28日不採用11.5$1.84
jab3c-2026102810月28日中止10.8$1.01
jab3s-2026102810月28日不採用11.6$1.85
jab3m-2026102810月28日中止10.4$0.43
学習ラン10回108.4$10.49
  • muscles stage 3 shakedown: GPU parity of the survive and punch envs in muscle mode (and the servo body unchanged), a 3-iteration skill-trainer smoke run, 28 October: マシン6台、0.6時間、$0.69

← 「モーターの代わりに筋肉で」のすべての作業ログ