スポットインスタンス

Amazon Web Services（AWS）のようなクラウド事業者は、コンピュータを時間単位で貸し出しています。オンデマンドインスタンスは、止めるまで自分のもので、料金は定価です。スポットインスタンスは、本来なら遊んでいる計算資源を使うもので、大幅に割り引かれ、60〜90%引きになることもよくあります。落とし穴は、事業者がその資源を必要としたときにはマシンを取り戻すことで、AWSでは2分前に予告されます。

スポットを学習に使うには

ランを再開できるなら、中断されてもかまいません。

• チェックポイントを、マシンより長く残るストレージにこまめに保存する。
• 何かに取り戻しを見張らせ、新しいマシンでランを起動し直させる。
• ランが期限になったら自分で終了するようにして、忘れられたマシンが請求額を積み上げないようにする。

このプロジェクトでは

学習ランはどれも、us-east-1リージョンのAmazon EC2スポットインスタンス1台を使います。標準は64 vCPUのc8a.16xlargeで、1時間あたり約$0.93〜1.23です。オンデマンドなら$3.28です。チェックポイントは60秒ごとにAmazon S3へ保存され、取り戻されたら見張り役がランを起動し直し、インスタンスは期限が来ると自分でシャットダウンします。0.5〜1.5時間のふつうのランで$1〜2かかります。

10月18〜19日の22回の歩きのランでは、Amazonがマシンを5回取り戻し、一度は試したゾーンにそのサイズの空きマシンが20分間ありませんでした。起動スクリプトは、最新世代（c8a）から、そのIntel版の双子（c8i）、さらに1つ前の世代へと順に切り替えます。ランは最後のチェックポイントから続いたので、取り戻しのたびに失ったのは数分の学習だけでした。

構えについては、レンタルGPUのほうがさらに安く済みました。秒単位で借りられるGPUマシンの市場であるvast.aiでは、同じL40Sのカードが、EC2のスポット価格の約3分の1で借りられ、構えを1回解くのにかかった費用は、CPUのスポットマシンでかかった費用の4分の1未満でした（レンタルGPUで学習する）。

ブロックの環境については、2人のファイターと視覚で、96 vCPUのスポットマシンとvast.aiのRTX 5090を比べました。その日のスポット価格は、ほとんどのゾーンでc8a.24xlargeが1時間あたり約$1.34〜1.59、起動スクリプトが代わりに取ってくることがあったm8a.24xlarge（同じプロセッサで、メモリが多い）が$1.90〜2.83でした。最適化したあとでは、5090は1イテレーションあたり、c8aより約3.2倍安く学習できました。