作業ログ · 実験 · 筋肉 · パンチ · RunPod
作業ログ: モーターの代わりに筋肉で
筋肉、ステージ3:パンチ
学習コスト 約$11.18RunPod の RTX 5090、RTX 4090、RTX PRO 6000 のポッド、1時間あたり $0.89〜2.49 · 学習ラン10回、マシン16台、約9マシン時間
パンチ環境は、5つのパンチ(ジャブ、クロス、左右のフック、アッパーカット)を学習したときのものです。合図に応じて空中の目標と重いサンドバッグに打ち、その合間に押されます。拳が3.5 m/s以上で目標から5 cm以内を通れば、パンチは命中とみなします。どのランも、その体自身の構えから始めます。サーボの体が基準です。最初のランの前に、筋肉モードをパンチ環境と survive 環境に CPU と GPU の両方で組み込み、GPU 版を CPU 版と両方の体で1ステップずつ照合しました(muscle3check、ポッド6つ)。
ラン
| ラン | 体、開始点 | 変更点 | 結果 |
|---|---|---|---|
| jab3s | サーボ、その構え | 押しは最大 | 145 Mステップ:転倒 3%未満、命中 4% → 9%、ずれ 25 → 10 cm |
| jab3sc | サーボ | 押しを段階的に強める(カリキュラム) | 141 Mステップ:命中 5% → 8%。サーボの体にはカリキュラムの効果なし |
| jab3m | 2aの筋肉、muscle2S-33.1M | 押しは最大 | 転倒 52%、命中なし。31 Mで停止 |
| jab3c | 2aの筋肉 | 押しのカリキュラム | 転倒約20%のあと崩壊。命中なし、ずれ 51〜68 cm(腕がガードに残ったまま)。69 Mで停止 |
| jab3r | 2aの筋肉 | + 伸張反射 | 腕は出る(ずれ 28〜31 cm)が、その下の構えは反射なしで学習したもの:転倒 25〜30%、命中なし。39 Mで停止 |
| muscle2R | 反射ありで2aの構えを一から | 56.0 Mステップで解けた、姿勢 0.93(採用) | |
| jab3R | 2a、muscle2R | 最初から最後まで反射あり | 転倒約22%、命中なし、拳は 0.5〜2.9 m/s。42 Mで停止 |
| muscle2A | 脱力した腕:腕の筋肉の静止時の興奮を50%ではなく10%に | 反射ありで構えを一から | 47.1 Mステップで解けた、姿勢 0.92(採用) |
| jab3A | 脱力した腕、muscle2A | 3.6 Mステップで筋肉の体の初命中(アッパーカット、4.3 m/s)。その後133 Mまで遅く安全なパンチ:転倒約24%、命中 0.1〜0.6% | |
| jab3N | 脱力した腕、muscle2A | 探索ノイズを3分の1に | 最初から転倒約95%。22 Mで停止 |
わかったこと
- 筋肉のパンチは遅すぎて命中に数えられませんでした。 jab3R の拳は0.5〜2.9 m/sで、サーボの体の3〜11に及びません。各腕の筋肉ペアはどちらも半分の興奮で休んでいました。他は何も変えずにジャブの筋肉を強制的に働かせると、拮抗する筋肉を切った状態で拳は8.6 m/sに達し、拮抗筋を半分にした状態では3.0 m/sでした。拮抗筋が腕にブレーキをかけているのです。
- 脱力した腕で直ったのはブレーキであって、パンチではありませんでした。 腕の筋肉の静止時を10%にすると、パンチの間は拮抗する筋肉が切れ、4 Mステップ以内に筋肉の体の初命中が出ました。その後、方策(ポリシー)は倒れずにいられる遅いパンチを選び、そこにとどまりました。探索ノイズなしでは20回中0回の転倒、ありではエピソードの約4分の1で転倒しました。
- ここで止めました。次の一歩は、さらにステップを重ねることではなく、もっと大きな仕組み(腕のための教師、あるいは最初はもっと低い速さの基準)です。
すべてのラン
kakuto-mlのラン記録から作成しています。各ランのマシン、課金された時間とコストです(EC2のランはランのログからの推定値です)。この作業ログに含まれるテストとレンダリングも載せています。
| ラン | 結果 | マシン | 時間 | コスト |
|---|---|---|---|---|
jab3N-2026102810月28日 | 中止 | 1 | 0.4 | $0.33 |
jab3A-2026102810月28日 | 不採用 | 2 | 2.1 | $1.86 |
muscle2A-2026102810月28日 · 採用 muscle2A-47.1M | 採用 | – | 0 | $0 |
jab3R-2026102810月28日 | 中止 | 1 | 0.5 | $1.35 |
muscle2R-2026102810月28日 · 採用 muscle2R-56.0M | 採用 | 1 | 0.5 | $1.32 |
jab3r-2026102810月28日 | 中止 | 1 | 0.6 | $0.49 |
jab3sc-2026102810月28日 | 不採用 | 1 | 1.5 | $1.84 |
jab3c-2026102810月28日 | 中止 | 1 | 0.8 | $1.01 |
jab3s-2026102810月28日 | 不採用 | 1 | 1.6 | $1.85 |
jab3m-2026102810月28日 | 中止 | 1 | 0.4 | $0.43 |
| 学習ラン10回 | 10 | 8.4 | $10.49 |
- muscles stage 3 shakedown: GPU parity of the survive and punch envs in muscle mode (and the servo body unchanged), a 3-iteration skill-trainer smoke run, 28 October: マシン6台、0.6時間、$0.69