GPU-Miete pro Stunde: so berechnen Sie die Kosten
Eine Stunde GPU-Server kostet zwischen etwa 0,66 € für eine L4 und 2,95 € für eine H100, wenn man den Monatspreis durch 730 Stunden teilt. Stundenabrechnung lohnt sich für Training, Experimente und einmalige Aufgaben über einige Tage. Für einen Server, der den ganzen Monat läuft, ist sie fast immer teurer. Hier finden Sie die Formel, vier Rechenbeispiele und die Kosten, die gern vergessen werden.
Bei stundengenauer Abrechnung laden Sie ein Guthaben auf, und der Anbieter bucht für jede Betriebsstunde die Serverkosten ab, in Clouds manchmal sekundengenau. Amazon EC2 etwa rechnet pro Sekunde ab, mit mindestens einer Minute je Start. Server gelöscht – die Abbuchungen enden. Wie das bei normalen VPS funktioniert, steht im Artikel wann sich Stundenabrechnung lohnt. Bei GPUs ist die Logik dieselbe, nur sind die Beträge um ein Vielfaches höher und ein Rechenfehler kostet mehr.
Was eine Stunde kostet
Ich habe die Tarife mit einer ganzen GPU aus dem accsly-Katalog vom 13. November 2026 genommen, den Median des Monatspreises ermittelt und durch 730 geteilt, so viele Stunden hat ein durchschnittlicher Monat. So rechnen die meisten Anbieter, die beide Preise angeben. Der Katalog führt Rubel, die Euro-Beträge sind umgerechnet und gerundet.
| Karte | Monat, Marktmedian | Stunde |
|---|---|---|
| L4, 24 GB | 478 € | 0,66 € |
| T4, 16 GB | 493 € | 0,68 € |
| RTX 4090, 24 GB | 502 € | 0,69 € |
| L40S, 48 GB | 835 € | 1,14 € |
| A100, 40–80 GB | 988 € | 1,35 € |
| RTX PRO 6000, 96 GB | 1.347 € | 1,85 € |
| H100, 80 GB | 2.157 € | 2,95 € |
Welche Karte zu welcher Aufgabe passt, steht im Artikel welche Grafikkarte für welche Aufgabe.
Wer Stundenabrechnung anbietet
Im Katalog vermieten 61 Anbieter Server mit Grafikkarte. Stundenabrechnung ist bei 23 von ihnen bestätigt, auf sie entfällt die Hälfte aller GPU-Tarife. Sechs Anbieter verkaufen sicher nur monatlich, die übrigen veröffentlichen ihre Bedingungen nicht. Cloud- und VPS-Tarife mit Karte: GPU-Server; alle Anbieter mit Stundenabrechnung auf der Seite VPS mit Stundenabrechnung.
Bei teuren Karten zahlen Sie für die Flexibilität drauf. Der Median des Monatspreises liegt bei Anbietern mit Stundenabrechnung über dem Gesamtmarkt: L40S 1.030 € gegenüber 835 €, RTX PRO 6000 1.550 € gegenüber 1.347 €, H100 2.476 € gegenüber 2.157 €. Der Unterschied beträgt 15 bis 23 %. Bei günstigen Karten gibt es ihn nicht: T4 und RTX 4090 kosten bei solchen Anbietern gleich viel oder sogar etwas weniger.
Die Formel
Die Kosten einer Aufgabe bestehen aus drei Teilen, und den ersten unterschätzt man fast immer.
Kosten = Stundenpreis × (Vorbereitung + Arbeit + Reserve) + Speicherung zwischen den Läufen
- Vorbereitung. Server anlegen, Treiber und Bibliotheken installieren, Modell und Daten herunterladen. Ein Modell mit 70 Milliarden Parametern im 16-Bit-Format wiegt rund 140 GB. Über eine 1-Gbit/s-Leitung sind das mindestens 19 Minuten, in der Praxis länger. Die ganze Zeit steht die Karte still, aber der Zähler läuft.
- Arbeit. Die Laufzeit der Aufgabe selbst. Kennen Sie sie nicht, starten Sie zuerst einen kurzen Lauf mit einem kleinen Teil der Daten und rechnen hoch.
- Reserve. Ein Fehler im Code, ein Neustart, Speichermangel auf halber Strecke. Planen Sie mindestens ein Viertel obendrauf.
Um zu sehen, ob Stunden- oder Monatsmiete günstiger ist, teilen Sie den Monatspreis durch den Stundenpreis. Das Ergebnis ist die Zahl der Stunden im Monat, ab der der Stundenserver teurer ist.
Break-even in Stunden = Monatspreis / Stundenpreis des Stundentarifs
Vier Rechenbeispiele
Ein kleines Modell übers Wochenende feinabstimmen
Das Feinabstimmen eines Modells mit 8 Milliarden Parametern per LoRA braucht rund 16 GB Grafikspeicher, eine Karte mit 24 GB reicht also. Eine RTX 4090 kostet bei Anbietern mit Stundenabrechnung im Median 455 € im Monat, das sind 0,62 € pro Stunde. Zwei Stunden Vorbereitung, zehn Stunden Training, drei Stunden Reserve: 15 Stunden, rund 9 €. Ein Monat derselben Karte kostet fast 50-mal so viel.
Ein dreitägiges Experiment mit einem großen Modell
Sie wollen prüfen, wie ein Modell mit 70 Milliarden Parametern mit Ihren Daten umgeht. Dafür braucht es eine Karte mit 80 GB, eine H100. Bei Anbietern mit Stundenabrechnung kostet ihre Stunde 3,39 €. Drei Tage am Stück sind 72 Stunden, rund 244 €. Ein Monat H100 kostet im Marktmedian 2.157 €. Selbst wenn sich das Experiment über eine Woche zieht, ist die Stundenmiete fast viermal günstiger.
Ein Modell fürs Team während der Arbeitszeit
Das Modell beantwortet werktags von 9 bis 18 Uhr Fragen der Mitarbeiter und läuft auf einer L40S. Bei Anbietern mit Stundenabrechnung kostet die Stunde 1,41 €. Neun Stunden an 22 Arbeitstagen sind 198 Stunden, rund 279 € im Monat – sofern der Server nachts gelöscht und morgens aus einem Festplatten-Snapshot neu angelegt wird. Eine L40S auf Monatsbasis kostet im Marktmedian 835 €. Break-even: 835 / 1,41 ≈ 590 Stunden, fast 25 Tage. Solange Sie den Server weniger als drei Wochen im Monat brauchen, ist Stundenabrechnung günstiger.
Ein Dienst, der rund um die Uhr läuft
Hier verliert die Stundenabrechnung. 730 Stunden L40S zu 1,41 € ergeben 1.030 €, ein Monatstarif bei einem anderen Anbieter kostet 835 €. Noch günstiger ist Vorauszahlung. Im Katalog nennen 164 GPU-Tarife von 18 Anbietern einen Jahrespreis: Der Median des Rabatts liegt bei 15 %, ein Viertel der Tarife gibt 32 % und mehr, 36 Tarife geben keinen. Mit 15 % Rabatt kostet ein Jahr L40S rund 8.500 € statt 10.020 €. Zahlen Sie ein Jahr aber nur bei einem Anbieter, bei dem der Dienst schon mindestens einen Monat gelaufen ist.
Wofür Sie zahlen, während die Karte nicht arbeitet
- Ein ausgeschalteter Server. Ausschalten stoppt nicht immer die Rechnung. In den großen Clouds wird ein gestoppter Server nicht mehr für Prozessor und Karte berechnet, wohl aber für Festplatten und externe IP-Adressen, so schreiben es AWS und Google Cloud. Bei vielen Anbietern kostet ein ausgeschalteter GPU-Server so viel wie ein laufender, weil die Karte für Sie reserviert bleibt. Prüfen Sie das in den Bedingungen vor dem ersten Start.
- Leerlauf zwischen den Schritten. Die Karte wartet, während Sie Logs lesen, Code korrigieren oder Ergebnisse herunterladen. Bereiten Sie Daten und Skripte auf einem günstigen Server ohne GPU vor und legen Sie den GPU-Server an, wenn alles startklar ist.
- Festplatte und Snapshots. Zwischen den Läufen liegen Modell und Daten auf einer Festplatte oder in einem Snapshot. Das ist günstig, summiert sich aber über die Monate.
- Einrichtungsgebühr. 24 GPU-Tarife im Katalog haben eine einmalige Einrichtungsgebühr, fast alle davon dedizierte Server. Bei kurzer Miete kann sie mehr kosten als die Arbeit selbst.
- Mindestlaufzeit. Manche Anbieter vermieten dedizierte GPU-Server für mindestens einen Monat. Stundenabrechnung gibt es meist bei Cloud-Servern; dedizierte finden Sie hier: dedizierte Server mit GPU.
So zahlen Sie nicht zu viel
- Speichern Sie Zwischenstände des Trainings alle halbe bis ganze Stunde auf die Festplatte. Stürzt der Server ab oder ist das Guthaben aufgebraucht, verlieren Sie eine Stunde Arbeit, nicht einen Tag.
- Richten Sie im Kundenbereich Benachrichtigungen zu Ausgaben und niedrigem Guthaben ein. Ist das Geld weg, stoppt der Anbieter den Server und kann ihn einige Tage später samt Daten löschen.
- Schreiben Sie das Löschdatum in den Servernamen. Ein vergessener H100-Server kostet im Monat rund 2.160 €.
- Testen Sie die Aufgabe zuerst auf einer günstigen Karte mit einem kleinen Teil der Daten und wechseln Sie auf die teure, wenn der Code funktioniert.