蒸留：distill7 から distill9 まで

distill4 のあとに続く3つの生徒です。distill7 は10月26日の新しい教師を取り込みます。距離を変えた2つのアッパーカットと、直立した奥足の膝蹴りです。distill8 は2つの肘打ちを、distill9 はハイキック、プルカウンター、ダッシュを加えます。レシピは distill4 と同じです。生徒は最後に採用したものからウォームスタートし、新しい環境に合わせて入力を増やします。基本スキルの教師は guard18-124.5M で、各技はその技を出している間それぞれ専用の教師を持つので、古い技も教え直され、忘れられることはありません。

ラン

ラン	元	新しい教師	結果	マシン時間、コスト
distill7	distill4-131.1M	upL4-157.3M（前の手のアッパーカット）、upR2-209.7M（奥の手のアッパーカット）、kneeR4-183.5M（奥足の膝蹴り、kneeR3 の置き換え）	245.8M を採用	7.0 h, $4.32
distill8	distill7-245.8M	elbowR1-249.1M, elbowL1-256.7M	131.1M を採用	6.3 h, $2.59
distill9	distill8-131.1M	highkickR2-273.2M, highkickL2-271.2M, pull1-209.7M（プルカウンター）, dash1e-85.2M（ダッシュ）	196.6M を採用	7.8 h, $3.95

distill7

私は「全部まとめて蒸留しよう」と頼みました。RunPod の RTX 5090 で10月26日の10:08 UTCから上限の2.5時間まで、248.1 Mステップ学習しました。各教師との距離（両者の行動の平均二乗誤差）は、どの技でも0.003〜0.004まで下がりました。新しいアッパーカットは約0.035〜0.056からの低下です。コストには、評価ゲート用の vast.ai の CPU マシン6台（スナップショット1つにつき1台）が含まれます。163.8 M用のマシンは最初の評価で固まり、上限の1.5時間まで何も返しませんでした。前後のスナップショットで挟めるので、再実行はしていません。

	パンチ /120	歩き /40	ブロック /32	対戦相手 /160	距離 /60	ボディストレート /24	膝蹴り 右 / 左 /12	転倒
distill4 131.1 M（採用）	60	39	24	117	39	20	11, 9	0
distill7 131.1 M	57	40	28	110	30	21	8, 9	0
distill7 229.4 M	60	35	29	101	37	20	9, 10	0
distill7 245.8 M	58	37	28	111	40	23	8, 12	0

どのスナップショットも、両方のアッパーカット（どの狙いでも空中で54回中53〜54回。distill4 は前の手が54回中37回で、奥の手はなし）と直立した奥足の膝蹴り（後傾は約1°、kneeR3 では約10°）を持っています。パンチのあとも足は床についたままで、奥の手のアッパーカットのバッグへの命中は学習とともに54回中2回から18回に増えました（教師は25回）。その代償として、前の手のアッパーカットは正面から9〜25°ずれて終わり、教師の1〜12°より大きくずれます。

245.8 M が総合的に一番でした。動画では、前の手のアッパーカットが6.1 m/sで当たって正面から25°ずれて終わり、奥の手のアッパーカットは9.1 m/sで当たり、奥足の膝蹴りは直立して着地していました。私はそれを見て「良さそうだ」と言いました。distill7-245.8M が採用された生徒になりました。

distill8：肘打ち

10月27日、私は「両方の肘打ちを生徒に蒸留し始めよう」と言いました。フランスの vast.ai の RTX 5090（$0.671/h）で00:02 UTCから上限の2.5時間まで、241.2 Mステップ学習しました。教師は distill7 と同じものに、2つの肘打ちを加えています。肘打ちの教師はまだゲートを通していませんでしたが、私はとにかく始めるよう頼みました。彼ら自身の簡易ゲートは問題を示していました。自分たちのマシンでは対戦相手を160回中6回と15回しかこなせず、転倒は145〜149回でした。対戦相手のエピソードなしで学習したからです。蒸留では、肘打ちの教師が動くのは肘打ちを出している間だけで、対戦相手は guard18 が担当するので、引き継がれないはずです。実際、引き継がれませんでした。241.2 Mでの distill8 自身のマシンでのスキルのゲート：

	ブロック /32	対戦相手 /160	転倒
distill7 245.8 M	28	111	0
distill8 241.2 M	24	112	0

学習の終わりまでに、肘打ちの教師との距離は約0.03から0.0046（右）と0.0044（左）まで下がり、学習中の肘打ちの命中は27%（右）と18%（左）でした。完全なゲートは6つのスナップショットで実行しました。131.1 M は対戦相手を160回中122回こなし、これまでのどの生徒よりも良い結果で、ブロックは32回中28回、両方の肘打ちも持っています。私は肘打ちの動画を見て「良さそうだ」と言いました。distill8-131.1M が採用された生徒になりました。

distill9：ハイキック、プルカウンター、ダッシュ

distill9 は10月27日に RunPod の RTX 5090 で、distill8-131.1M から上限の2.5時間まで、228.0 Mステップ学習しました。それまでの教師をすべて残し、4つを加えました。2つのハイキック（2回目）、プルカウンター、ダッシュです。ゲートは vast.ai の CPU マシンで、スナップショット1つにつき1台で実行しました。最初の試みは歩き、ブロック、対戦相手の評価でクラッシュしました。それらのスクリプトがダッシュの環境を知らなかったからです。修正してゲートをもう一度実行しました。そのマシン代もコストに含まれています。

	パンチ	対戦相手 /160	距離 /60	ボディストレート /24	プルカウンター 空中 / バッグ /6	ハイキック 右 / 左 空中 /36	ダッシュ ok /8
distill8 131.1 M（採用）	58	122	37	22	–	–	–
教師					8 / 8	35 / 30	4 / 5
distill9 131.1 M	57	105	31	15	0 / 6	35 / 18	6 / 5
distill9 196.6 M	59	120	39	11	5 / 6	34 / 21	6 / 6
distill9 228.0 M	63	102	42	13	1 / 6	29 / 29	6 / 6

196.6 M は基本スキルを distill8 の水準に保ちました。空中でプルカウンターを当てられる唯一のスナップショットで、右のハイキックは教師と同等、ダッシュは教師と同等かそれ以上です。どのスナップショットもボディストレート（22回に対して11〜15回）と、奥の手のアッパーカットのバッグへの命中（54回中、16回に対して1〜6回）を失いました。私はハイキック、プルカウンター、ダッシュの動画を見て「良さそうだ。採用しよう」と言いました。distill9-196.6M が採用された生徒です。ボディストレートと奥の手のアッパーカットは、ローキックとミドルキックと一緒に、次の蒸留で取り戻す予定です。

すべてのラン

kakuto-mlのラン記録から作成しています。各ランのマシン、課金された時間とコストです（EC2のランはランのログからの推定値です）。

← すべての作業ログ