Server mit RTX 5090: 32 GB GDDR7 und was bei Treiber und CUDA zu beachten ist
Die GeForce RTX 5090 ist die Spitzen-Gaming-Karte der Generation Blackwell und kam Anfang 2025 auf den Markt. Laut NVIDIA-Spezifikation hat sie 32 GB GDDR7 an einem 512-Bit-Bus (etwa 1,8 TB/s), 21.760 CUDA-Kerne, Tensor-Kerne der fünften Generation mit FP4-Unterstützung und eine Leistungsaufnahme von bis zu 575 W. NVLink gibt es nicht. Im Vergleich zur RTX 4090 hat sie ein Drittel mehr Speicher, und dessen Bandbreite ist um etwa 78 % höher.
Wofür sie sich eignet
- Sprachmodelle bis 30–32 Mrd. Parameter in 4- bis 8-Bit-Quantisierung mit Reserve für den Kontext. Die Generierungsgeschwindigkeit hängt an der Speicherbandbreite, und hier überholt die RTX 5090 viele Rechenzentrumskarten.
- Bild- und Videogenerierung: Mit 32 GB lassen sich große Modelle vollständig im Speicher halten, ohne Gewichte auszulagern.
- Rendering und Videokodierung: drei Hardware-Encoder NVENC mit AV1-Unterstützung.
Worauf Sie im Tarif achten sollten
- CUDA-Version. Blackwell-Karten brauchen CUDA 12.8 oder neuer und aktuelle Framework-Builds (PyTorch ab 2.7). Auf einem alten Image erkennt eine Bibliothek die Karte unter Umständen nicht, obwohl nvidia-smi sie anzeigt.
- Stromversorgung und Kühlung. 575 W pro Karte erfordern ein starkes Netzteil und gute Wärmeabfuhr. Fragen Sie bei einem dedizierten Server nach dem Netzteil der Maschine, besonders bei Konfigurationen mit zwei Karten.
- Prozessor, Arbeitsspeicher und Festplatte. Für Inferenz genügen 8–16 Kerne, 64–128 GB RAM und NVMe ab 1 TB.
- Tariftyp. Die meisten Angebote sind dedizierte Server, Cloud-Tarife mit dieser Karte gibt es wenige.
Was sie pro Monat und pro Stunde kostet
Laut Katalog vom 17. November 2026 liegt der Medianpreis eines Servers mit einer RTX 5090 bei etwa 700 $ im Monat, die Hälfte der Tarife kostet zwischen 650 und 830 $. Umgerechnet auf 730 Stunden sind das rund 0,96 $ pro Stunde. Weniger als die Hälfte der Hoster mit dieser Karte bietet stündliche Abrechnung an. Reichen Ihrem Modell 32 GB nicht, vergleichen Sie die Preise der 48-GB-Karten L40S und RTX A6000 oder der RTX PRO 6000 mit 96 GB. Mehr zur Kartenwahl im Artikel Welche Grafikkarte für den Server.