コンテンツへスキップ

AWSでCIランナーにスポットインスタンスを使用する

最終更新日

CIジョブは短時間で、再実行が可能であり、通常は緊急性が低いため、スポットキャパシティに適しています。EC2スポットはオンデマンドよりはるかに安価になる場合があり、AWSによれば割引率は最大90パーセントに達することがあります。注意点として、AWSは2分前の通知でインスタンスを回収することがあります。このガイドでは、それに耐えられるランナーの設計方法と、節約額を正直に見積もる方法を説明します。

購入するものについて

スポットインスタンスは、変動する価格で販売される余剰のEC2キャパシティです。AWSのドキュメントによる事実は次のとおりです。

  • 支払うのは現在のスポット価格で、入札によるオークションではなく、ゆっくりと変動します。
  • EC2がキャパシティを必要とするときは、(利用可能な場合)リバランス推奨シグナルを送信し、インスタンスが停止または終了される2分前に中断通知を送ります。
  • 中断の頻度はインスタンスタイプとリージョンによって異なります。スポットインスタンスアドバイザーには、各タイプの率の区分(5パーセント未満、5~10、10~15、15~20、20超)が表示されます。

オンデマンドの料金はEC2コスト計算ツールで確認し、CLIから現在のスポット価格と比較してください:

aws ec2 describe-spot-price-history \
  --instance-types c7a.2xlarge c6a.2xlarge m6a.2xlarge \
  --product-descriptions "Linux/UNIX" \
  --start-time "$(date -u +%Y-%m-%dT%H:%M:%SZ)" \
  --query 'SpotPriceHistory[].[InstanceType,AvailabilityZone,SpotPrice]' --output table

アーキテクチャ

一般的な設計は次のとおりです。Auto Scalingグループ またはEC2 Fleetがインスタンスを起動します。各インスタンスは起動後、一時的なGitHubランナーとして登録され、1つのジョブを処理してから終了します。スケーラーは、workflow_jobウェブフックまたはランナーAPIを使い、ジョブがキューに溜まったときにインスタンスを追加します。

主な選択事項:

  • 一時的な、単一ジョブのランナー。 ./config.sh --ephemeralで登録します(またはAPIを通じたジャストインタイム構成を使います)。インスタンスとともに消えるランナーは登録されたままにすべきではありません。一時的な登録では1ジョブの後にランナーが削除され、古いオフラインランナーの残存を防げます。
  • インスタンスタイプとゾーンを分散させる。スポットのプールはタイプごと、ゾーンごとに分かれています。すべてのゾーンにわたって、同等のサイズの多くのタイプ(例:c6a、c7a、c6i、m6a)を指定してください。AWSがほとんどのワークロードに推奨しているprice-capacity-optimized割り当て戦略を使うと、低価格と中断リスクのバランスをとれます。
  • 事前構築済みのAMI。起動時間には料金がかかり、キューの待ち時間も延びます。ランナーのソフトウェア、Docker、言語ツールチェーン、そしてウォームなDockerイメージキャッシュをAMIに組み込んでください。
  • 高速なローカルディスク。NVMeインスタンスストレージを搭載したインスタンスではビルドが速くなります。gp3ボリュームは安価で、ほとんどのジョブには十分です。サイズの決定にはEBS gp3コスト計算ツールを使ってください。
  • オンデマンドへのフォールバック。スポットキャパシティが空の場合は、ジョブをキューに残すのではなく、オンデマンドで起動してください。その頻度を記録してください。フォールバックの割合が高い場合、スポットによる節約は小さくなります。

中断への対処

中断されたジョブは「The runner has received a shutdown signal」や「lost communication with the server」などのメッセージで失敗します。GitHubはジョブを自動では再実行しません。複数の層で対処してください。

  1. 中断を稀にする。アドバイザーで中断率の低いインスタンスタイプを選び、ジョブは短く保ってください。8分のジョブは90分のジョブよりはるかに影響を受けにくくなります。
  2. 通知を監視する。中断がスケジュールされると、インスタンスメタデータサービスがspot/instance-actionを公開します。小さなデーモンがこれをポーリングし、ランナーを切り離し中としてマークできます。実行中のジョブを救うことはできませんが、新たな作業の受け入れを止めることはできます。
  3. 自動で再試行する。ランナーの喪失が原因で失敗したworkflow_jobの完了イベントを受け取ったスケジューラーは、失敗したジョブの再実行APIを呼び出せます:
gh run rerun <run-id> --failed
  1. ジョブを冪等に保つ。デプロイ、データベースのマイグレーション、リリースはスポットには不向きです。ラベルを使ってオンデマンドのランナーで実行し(runs-on: [self-hosted, ondemand])、テストとビルドにはスポットを使ってください(runs-on: [self-hosted, spot])。
  2. 長いタスクにチェックポイントを設ける。大規模なビルドでは、リモートビルドキャッシュを使い、再試行時にゼロからではなくキャッシュ済みの結果から再開できるようにしてください。

節約額の計算

すべてを含めた実際の価格で計算してください。稼働時間1時間あたりの計算は次のとおりです。

on-demand cost per hour      = instance price
spot cost per hour           = spot price (varies)
overhead multiplier          = 1 + boot + idle + retries    (typically 1.1 to 1.5)
effective spot cost per hour = spot price x overhead

以下は例示のための仮の数値です。オンデマンドが1時間あたり$0.34、スポットが$0.12、オーバーヘッド係数が1.3の場合、実効コストは1時間あたり$0.156となり、オンデマンドより54パーセント安くなります。分数の10パーセントがオンデマンドにフォールバックすると、混合コストは上昇します。その結果を、GitHubの大型ランナー価格(8コアLinuxは価格ページによると1分あたり$0.022、1時間あたり$1.32)や、セルフホストランナーとGitHubホストランナーの比較で扱っている運用時間と比べてください。

次の費用も含めてください。

  • EBSボリュームとスナップショット、パブリックIPv4アドレス(時間単位で課金)、NATゲートウェイ、データ転送。ジョブがリージョン外から大量にダウンロードする場合はデータ転送見積もりツールを使ってください。
  • スケーラーを構築・運用するためのエンジニアの時間。オープンソースの選択肢には、Kubernetes上のActions Runner Controllerや、AWSベースのオートスケーラーのプロジェクトがいくつかあります。

セキュリティの基本

スポットを使ってもセキュリティモデルは変わりません。ランナーはお使いのネットワーク内にあります。一時的なインスタンス、IMDSv2、最小権限のインスタンスロール、パブリックリポジトリのジョブを実行しないこと、そしてクラウドアクセスにはOIDCを使ってください(GitHub ActionsのOIDCによるAWSへのアクセスを参照)。コストレポートで支出を割り当てられるよう、インスタンスにタグを付けてください。

スポットを使うべきでない場合

  • リリースとデプロイのジョブ。
  • キャッシュやチェックポイントがなく、1時間を超えるジョブ。
  • ホステッドランナーの無料分で済む小規模な利用量。
  • オートスケーリングを運用するための体制がないチーム。

よくある質問

CIジョブはどのくらいの頻度で中断されますか?

インスタンスタイプ、ゾーン、時間帯によって異なります。アドバイザーの率の区分を目安にし、本格的に導入する前に1週間、ご自身の中断率を測定してください。

KubernetesランナーでSpotを使えますか?

はい。複数のインスタンスタイプを持つスポットインスタンスのノードグループ上でActions Runner Controllerを実行し、ポッドの中断処理を設定してください。中断されたポッドはジョブが失敗するため、同じ再試行戦略が適用されます。

スポットは節約プランより安いですか?

常時稼働する24x7のベースライン負荷では、オーバーヘッドを含めると、Compute Savings Planが スポットインスタンスより有利になる場合があります。一般的な方法は、ベースラインには予約容量を、バーストには スポットインスタンスを使うという組み合わせです。

GitHubがホストするランナーやサードパーティのランナーはどうですか?

これらは分単位で課金され、キャパシティ管理は見えないようになっています。一部のプロバイダーは内部でスポットを利用し、その節約分の一部を還元しています。

compiler.devとの関係

compiler.devは、Linuxランナーをスポットキャパシティで実行し、オンデマンドへの自動フォールバックを備えています。そのため、スケーラーを自分で運用しなくても節約の恩恵を受けられます。比較モードでは、ご自身のジョブについて、実行時間と費用をGitHubがホストするランナーの場合と並べて確認できます。

このワークフローを compiler.dev で実行する カード登録不要 · 200 無料分

無料で試す