GPU-Server suchen und vergleichen

Ein Server mit Grafikkarte lohnt sich, wenn sich die Arbeit auf Tausende paralleler Threads verteilen lässt: Matrixoperationen neuronaler Netze, das Rendern von Bildern, das Kodieren von Video. Ein Prozessor erledigt solche Aufgaben um ein Vielfaches langsamer, und eine eigene Rechenzentrumskarte kostet so viel wie ein Auto und steht zwischen den Aufträgen still. Die Tabelle oben zeigt Cloud- und VPS-Tarife mit GPU von Anbietern in Europa, den USA und Asien; der Schalter darüber zeigt auch dedizierte Server mit Grafikkarte.

Wofür man eine GPU mietet und wann eine CPU reicht

• Inferenz neuronaler Netze. Ein Sprachmodell mit 7–70 Milliarden Parametern, Spracherkennung, Embeddings für die Dokumentensuche. Auf einer GPU kommt die Antwort in Sekunden, und ein Server bedient viele Nutzer gleichzeitig.
• Feinabstimmung. Fine-Tuning und LoRA-Adapter auf eigenen Daten brauchen deutlich mehr Grafikspeicher als der Betrieb desselben Modells: Neben den Gewichten liegen auch Gradienten und der Zustand des Optimierers im Speicher.
• Bildgenerierung. Stable Diffusion, Flux und ähnliche Modelle liefern auf einer Karte der RTX-Klasse ein Bild in Sekunden, auf einem Prozessor in Minuten.
• Rendering. Blender Cycles, Redshift, Octane: Ein paar Stunden Miete vor einer Deadline kosten weniger als eine Workstation für ein einziges Projekt.
• Video-Transcoding. Die Hardware-Codecs NVENC/NVDEC kodieren einen Stream gleichzeitig in mehrere Qualitätsstufen und entlasten den Prozessor.
• Wissenschaftliches Rechnen. Molekulardynamik, Simulationen, Bildverarbeitung: alles, was für CUDA oder OpenCL geschrieben ist.

Eine Grafikkarte ist nicht immer nötig. Kleine Sprachmodelle laufen in komprimierter Form auch auf einem gewöhnlichen Prozessor: langsamer, aber zum Festpreis eines normalen VPS. Für einen internen Bot oder Dokumentenverarbeitung ohne strenge Geschwindigkeitsanforderungen beginnen Sie mit der Auswahl VPS für Ollama und wechseln zur GPU, wenn die Antwortzeit zum Engpass wird.

Cloud-GPU oder dedizierter Server mit Karte

Eine Cloud-GPU oder ein GPU-VPS passt zu kurzen und schwer planbaren Aufgaben. Viele Tarife werden stündlich abgerechnet: Server starten, Training oder Rendering durchlaufen lassen, löschen und nur die tatsächliche Zeit bezahlen. Die Karte wird dabei entweder vollständig an die virtuelle Maschine durchgereicht (Passthrough) oder per vGPU zwischen Kunden geteilt, sodass Sie einen Teil des Speichers und der Recheneinheiten bekommen. Das sollten Sie klären: Ein Anteil reicht für die Inferenz kleiner Modelle, nicht aber für Training.

Ein dedizierter Server mit Grafikkarte gehört einem einzigen Kunden: keine Virtualisierung zwischen Ihnen und der Karte, gleichmäßige Leistung und meist mehr Festplatten und Arbeitsspeicher. Er lohnt sich bei Dauerlast, wenn ein Modell rund um die Uhr Nutzern antwortet oder die Render-Warteschlange nie leer wird. Wenn Sie eine leistungsstarke Maschine, aber keine GPU brauchen, sehen Sie sich den allgemeinen Katalog dedizierter Server an.

So liest man einen GPU-Tarif

• Kartenmodell und Generation. Die Consumer-Karten RTX 3090 und 4090 bieten viel Rechenleistung fürs Geld und eignen sich für Bildgenerierung und Inferenz. Professionelle A2000 und Karten der L4-Klasse sind sparsam und passen zu Inferenz und Video. A100 und H100 sind für das Training großer Modelle gedacht: mehr Speicher, schnelle Verbindung zwischen den Karten und Unterstützung von Formaten wie BF16 und FP8.
• Grafikspeicher. Das ist die wichtigste Grenze: Ein Modell, das nicht in den VRAM passt, startet entweder gar nicht oder läuft um ein Vielfaches langsamer. Faustregel: In voller FP16-Genauigkeit braucht eine Milliarde Parameter etwa 2 GB, bei 4-Bit-Quantisierung ein Mehrfaches weniger, plus Reserve für den Kontext. Für Training noch einmal mehrfach rechnen.
• Anzahl der Karten. Zwei Karten sind nicht eine Karte mit doppeltem Speicher: Das Modell muss aufgeteilt werden, und die Verbindung zwischen den Karten (NVLink oder PCIe) beeinflusst das Ergebnis.
• CPU und RAM neben der Karte. Eine schwache CPU liefert die Daten nicht schnell genug, und die teure Karte wartet. Der Arbeitsspeicher sollte möglichst nicht kleiner sein als der Grafikspeicher.
• NVMe-Festplatte. Datensätze, Checkpoints und Modellgewichte belegen Dutzende bis Hunderte Gigabyte; eine langsame Platte verlängert jeden Ladevorgang.
• Bandbreite und Traffic. Gewichte großer Modelle werden in Gigabyte heruntergeladen. Prüfen Sie Portgeschwindigkeit und Traffic-Limit, damit der erste Download nicht das Monatskontingent aufbraucht.
• Fertige Images. Ein Image mit NVIDIA-Treiber, CUDA, PyTorch oder GPU-fähigem Docker spart eine Stunde Einrichtung. Prüfen Sie die Versionen: Ein alter Treiber startet kein aktuelles Framework.
• Stunden- oder Monatspreis. Vergleichen Sie nach tatsächlicher Nutzung: Bei einigen Stunden am Tag ist der Stundentarif günstiger, bei Dauerbetrieb der Monatstarif.

Was Sie vor der Zahlung prüfen sollten

1. Eine Teststunde. Mieten Sie den Server für eine Stunde, starten Sie Ihre eigene Aufgabe und sehen Sie sich die Ausgabe von nvidia-smi an: Kartenmodell, Speichergröße, Treiberversion und Auslastung unter Last.
2. Verfügbarkeit der Karten. Beliebte Modelle sind oft vergriffen, und ein Tarif in der Liste garantiert keine freie Karte am gewünschten Standort. Fragen Sie, wie lange die Bereitstellung dauert und ob sich ein Server reservieren lässt.
3. Speicherort der Daten. Verarbeitet das Modell personenbezogene Daten von Menschen in der EU, gilt für Sie als Verantwortlichen die DSGVO, und ein Rechenzentrum in der EU erleichtert die Dokumentation von Datenübermittlungen. Ansonsten beeinflusst der Standort vor allem, wie schnell Datensätze geladen werden.
4. Dauerhafter Speicher. Beim Löschen eines stündlich abgerechneten Servers wird die Festplatte meist gelöscht. Klären Sie, ob es ein persistentes Volume oder Snapshots gibt, damit Sie die Gewichte nicht bei jedem Start neu herunterladen.
5. Zahlung. Stundentarife buchen von einem Guthaben ab, und bei null wird der Server angehalten. Die meisten Anbieter akzeptieren Karten, viele PayPal, Geschäftskunden können meist per Rechnung zahlen; die Tabelle zeigt die Methoden für jeden Tarif.

Wird die Karte nur für einen Teil des Projekts gebraucht, legen Sie den Rest auf einen normalen Server aus dem VPS-Katalog: Weboberfläche und Datenbank laufen dort, und der GPU-Server wird nur für Berechnungen eingeschaltet.