Server mit RTX 4090: 24 GB schneller Speicher zum Preis von Einstiegskarten
Die GeForce RTX 4090 ist eine Gaming-Karte der Architektur Ada Lovelace, die Hoster wegen ihres Preis-Leistungs-Verhältnisses in Server einbauen. Laut NVIDIA-Spezifikation hat sie 24 GB GDDR6X an einem 384-Bit-Bus (etwa 1 TB/s), 16.384 CUDA-Kerne, Tensor-Kerne der vierten Generation mit FP8-Unterstützung und eine Leistungsaufnahme von bis zu 450 W. NVLink hat die Karte nicht. Zur Miete findet man die RTX 4090 vor allem in dedizierten Servern: Die ganze Maschine gehört Ihnen, die Karte wird mit niemandem geteilt.
Wofür sie sich eignet
- Sprachmodelle bis 30 Mrd. Parameter in 4- bis 8-Bit-Quantisierung und Modelle mit 7–8 Mrd. in FP16. Der schnelle Speicher sorgt für hohe Generierungsgeschwindigkeit für einen einzelnen Nutzer oder ein kleines Team.
- Bildgenerierung: Stable Diffusion, Flux, Training eigener LoRAs.
- Rendering in Blender Cycles über OptiX und anderen GPU-Renderern sowie Videokodierung: Die Karte hat zwei Hardware-Encoder NVENC mit AV1-Unterstützung.
Braucht Ihr Modell mehr als 24 GB, sehen Sie sich die RTX 5090 mit 32 GB oder die 48-GB-Karten L40S und RTX A6000 an. Wie viel Speicher ein Modell belegt, erklärt der Artikel Ein eigenes Sprachmodell auf dem Server.
Worauf Sie im Tarif achten sollten
- Grafikspeicher. Die RTX 4090 hat laut Spezifikation 24 GB. Steht im Tarif 48 GB, fragen Sie beim Hoster nach, um welche Karte es sich handelt und welcher Treiber darauf läuft.
- Prozessor und Arbeitsspeicher. Datenladen und Vorverarbeitung laufen auf der CPU; für Inferenz und Rendering reichen meist 8–16 Kerne und 64 GB RAM.
- Festplatte. Modellgewichte belegen Dutzende Gigabyte, daher besser NVMe ab 1 TB.
- Mehrere Karten. Ohne NVLink tauschen die Karten in einer ×2- oder ×4-Konfiguration Daten über PCIe aus. Solche Konfigurationen sind gut, wenn auf jeder Karte eine eigene Kopie des Modells läuft.
Was sie pro Monat und pro Stunde kostet
Laut Katalog vom 17. November 2026 liegt der Medianpreis eines Servers mit einer RTX 4090 bei etwa 570 $ im Monat, die Hälfte der Tarife kostet zwischen 480 und 760 $. Umgerechnet auf 730 Stunden sind das rund 0,78 $ pro Stunde. Etwa ein Drittel der Hoster mit dieser Karte bietet stündliche Abrechnung an: Sie lohnt sich für einmalige Aufgaben, bei Dauerlast ist ein Monatstarif oder ein dedizierter GPU-Server günstiger. Wie man solche Tarife durchrechnet, erklärt der Artikel Was eine Stunde GPU-Server kostet, den Vergleich mit anderen Karten finden Sie unter Welche Grafikkarte für den Server.