Zum Inhalt springen

Spot-Instanzen für CI-Runner auf AWS nutzen

Zuletzt aktualisiert am

CI-Jobs eignen sich gut für Spot-Kapazität: Sie sind kurz, lassen sich neu starten und sind meist nicht zeitkritisch. EC2 Spot kann deutlich günstiger sein als On-Demand, und laut AWS sind Rabatte von bis zu 90 Prozent möglich. Der Haken: AWS kann die Instanz mit zwei Minuten Vorlauf zurückfordern. Dieser Leitfaden zeigt, wie Sie Runner entwerfen, die das abfangen, und wie Sie Einsparungen realistisch einschätzen.

Was Sie einkaufen

Spot-Instances sind freie EC2-Kapazität zu einem variablen Preis. Fakten aus der AWS-Dokumentation:

  • Sie zahlen den aktuellen Spot-Preis, der sich langsam ändert, kein Gebot in einer Auktion.
  • Benötigt EC2 die Kapazität zurück, sendet es ein Rebalance-Recommendation-Signal (sofern verfügbar) und eine Unterbrechungsmeldung 2 Minuten bevor die Instanz gestoppt oder beendet wird.
  • Die Unterbrechungshäufigkeit variiert nach Instanztyp und Region; der Spot Instance Advisor zeigt für jeden Typ eine Häufigkeitsklasse (unter 5 Prozent, 5-10, 10-15, 15-20, über 20).

Nutzen Sie den EC2-Kostenrechner für On-Demand-Preise und vergleichen Sie diese über die CLI mit dem aktuellen Spot-Preis:

aws ec2 describe-spot-price-history \
  --instance-types c7a.2xlarge c6a.2xlarge m6a.2xlarge \
  --product-descriptions "Linux/UNIX" \
  --start-time "$(date -u +%Y-%m-%dT%H:%M:%SZ)" \
  --query 'SpotPriceHistory[].[InstanceType,AvailabilityZone,SpotPrice]' --output table

Die Architektur

Ein gängiges Design: Eine Auto Scaling Group oder EC2 Fleet startet Instanzen; jede Instanz bootet, registriert sich als ephemerer GitHub-Runner, übernimmt einen Job und wird beendet. Ein Scaler fügt Instanzen hinzu, wenn Jobs in der Warteschlange stehen, und nutzt dafür den workflow_job-Webhook oder die Runner-API.

Wichtige Entscheidungen:

  • Ephemere Runner für jeweils einen Job. Registrieren Sie mit ./config.sh --ephemeral (oder mit Just-in-Time-Konfiguration über die API). Ein Runner, der mit seiner Instanz verschwindet, sollte nicht registriert bleiben; die ephemere Registrierung entfernt ihn nach einem Job und vermeidet veraltete Offline-Runner.
  • Instanztypen und Zonen verteilen. Spot-Pools bestehen je Typ und Zone. Fordern Sie viele gleichwertige Typen an (zum Beispiel c6a, c7a, c6i, m6a in gleicher Größe) über alle Zonen. Verwenden Sie die Allokationsstrategie price-capacity-optimized, die AWS für die meisten Workloads empfiehlt, um niedrigen Preis und Unterbrechungsrisiko auszubalancieren.
  • Vorgefertigtes AMI. Die Bootzeit wird abgerechnet und verlängert die Wartezeit in der Warteschlange. Legen Sie die Runner-Software, Docker, Sprach-Toolchains und einen vorgewärmten Docker-Image-Cache ins AMI.
  • Schneller lokaler Speicher. Instanzen mit NVMe-Instanzspeicher beschleunigen Builds; gp3-Volumes sind günstiger und für die meisten Jobs ausreichend. Nutzen Sie den EBS-gp3-Kostenrechner, um sie zu dimensionieren.
  • Rückfall auf On-Demand. Ist keine Spot-Kapazität verfügbar, starten Sie On-Demand, statt Jobs in der Warteschlange zu lassen. Protokollieren Sie, wie oft das passiert. Ist die Rückfallquote hoch, schrumpfen Ihre Spot-Einsparungen.

Umgang mit Unterbrechungen

Ein unterbrochener Job schlägt mit einer Meldung fehl wie "The runner has received a shutdown signal" oder "lost communication with the server". GitHub führt den Job nicht automatisch erneut aus. Gehen Sie mehrschichtig vor:

  1. Unterbrechungen selten machen. Bevorzugen Sie Instanztypen mit niedriger Unterbrechungsrate laut Advisor und halten Sie Jobs kurz. Ein Job mit 8 Minuten ist weit weniger gefährdet als einer mit 90 Minuten.
  2. Auf die Meldung achten. Der Instance-Metadata-Service zeigt spot/instance-action, wenn eine Unterbrechung geplant ist. Ein kleiner Daemon kann dies abfragen und den Runner als "draining" markieren; er kann einen laufenden Job nicht retten, aber neue Arbeit nicht mehr annehmen.
  3. Automatisch wiederholen. Ein Scheduler, der das workflow_job-Ereignis "completed" mit einem durch Runner-Verlust verursachten Fehler erhält, kann die API zum erneuten Ausführen fehlgeschlagener Jobs aufrufen:
gh run rerun <run-id> --failed
  1. Jobs idempotent halten. Deployments, Datenbankmigrationen und Releases sind schlechte Kandidaten für Spot. Führen Sie sie auf On-Demand-Runnern über Labels aus (runs-on: [self-hosted, ondemand]), und lassen Sie Tests und Builds auf Spot laufen (runs-on: [self-hosted, spot]).
  2. Lange Aufgaben mit Checkpoints sichern. Bei großen Builds nutzen Sie Remote-Build-Caches, damit ein erneuter Versuch auf zwischengespeicherten Ergebnissen aufsetzt statt bei null zu beginnen.

Rechnung zu den Einsparungen

Rechnen Sie mit realen Preisen und berücksichtigen Sie alles. Pro ausgelasteter Stunde:

on-demand cost per hour      = instance price
spot cost per hour           = spot price (varies)
overhead multiplier          = 1 + boot + idle + retries    (typically 1.1 to 1.5)
effective spot cost per hour = spot price x overhead

Nur ein Beispiel mit veranschaulichenden Zahlen: On-Demand-Preis von $0.34 pro Stunde, Spot-Preis von $0.12 und ein Overhead-Faktor von 1.3 ergeben effektiv $0.156 pro Stunde, 54 Prozent unter dem On-Demand-Preis. Wenn 10 Prozent der Minuten auf On-Demand zurückfallen, steigen die Gesamtkosten. Vergleichen Sie das Ergebnis mit den Preisen für größere Runner von GitHub (8-Core Linux kostet $0.022 pro Minute, $1.32 pro Stunde, laut der Preisseite) und mit Ihrem Betriebsaufwand, wie in Self-hosted vs. GitHub-hosted Runner beschrieben.

Berücksichtigen Sie außerdem:

  • EBS-Volumes und Snapshots, öffentliche IPv4-Adressen (stündlich abgerechnet), NAT-Gateway und Datenübertragung. Nutzen Sie den Datenübertragungsrechner, wenn Jobs viel von außerhalb der Region laden.
  • Den Entwicklungsaufwand für Bau und Betrieb des Scalers. Zu den Open-Source-Optionen gehören Actions Runner Controller auf Kubernetes und mehrere AWS-basierte Autoscaler-Projekte.

Sicherheitsgrundlagen

Spot ändert das Sicherheitsmodell nicht: Die Runner laufen in Ihrem Netzwerk. Nutzen Sie ephemere Instanzen, IMDSv2, eine Instanzrolle mit minimalen Rechten, keine Jobs für öffentliche Repositories und OIDC für den Cloud-Zugriff (siehe GitHub Actions OIDC zu AWS). Taggen Sie Instanzen, damit Kostenberichte die Ausgaben zuordnen können.

Wann Sie Spot nicht nutzen sollten

  • Release- und Deployment-Jobs.
  • Jobs länger als eine Stunde ohne Cache oder Checkpoints.
  • Sehr kleine Volumen, bei denen die inkludierten Minuten eines gehosteten Runners nichts kosten.
  • Teams ohne Kapazität, Autoscaling zu betreiben.

FAQ

Wie oft werden CI-Jobs unterbrochen?

Das hängt von Instanztyp, Zone und Zeitpunkt ab. Orientieren Sie sich an der Häufigkeitsklasse des Advisors und messen Sie Ihre eigene Unterbrechungsrate eine Woche lang, bevor Sie sich festlegen.

Kann ich Spot mit Kubernetes-Runnern nutzen?

Ja. Betreiben Sie Actions Runner Controller auf einer Node-Gruppe aus Spot-Instanzen mit mehreren Instanztypen und richten Sie die Behandlung von Pod-Unterbrechungen ein. Unterbrochene Pods lassen ihre Jobs fehlschlagen, daher gilt dieselbe Wiederholungsstrategie.

Ist Spot günstiger als ein Savings Plan?

Für eine gleichbleibende 24x7-Grundlast kann ein Compute Savings Plan unter Einbeziehung des Overhead günstiger sein als Spot. Üblich ist eine Mischung: reservierte Kapazität für die Grundlast, Spot für Lastspitzen.

Und was ist mit GitHub-gehosteten und Drittanbieter-Runnern?

Sie werden minutengenau abgerechnet und verbergen die Verwaltung der Kapazität. Manche Anbieter nutzen intern Spot und geben einen Teil der Ersparnis weiter.

Wie compiler.dev dazu passt

compiler.dev betreibt seine Linux-Runner auf Spot-Kapazität mit automatischem Fallback auf On-Demand. So profitieren Sie von den Einsparungen, ohne den Scaler selbst betreiben zu müssen. Der Vergleichsmodus zeigt Laufzeit und Kosten Ihrer eigenen Jobs neben denen von GitHub-gehosteten Runnern.

Diesen Workflow auf compiler.dev ausführen Keine Karte nötig · 200 kostenlose Minuten

Kostenlos testen