Server mit RTX 3090: die günstigsten 24 GB schnellen Grafikspeichers
Die GeForce RTX 3090 ist eine Gaming-Karte der Generation Ampere aus dem Jahr 2020. Laut NVIDIA-Spezifikation hat sie 24 GB GDDR6X an einem 384-Bit-Bus (936 GB/s), 10.496 CUDA-Kerne und Tensor-Kerne der dritten Generation; die Leistungsaufnahme liegt bei bis zu 350 W. Die Karte ist älter als die RTX 4090, ihr Speicher ist aber fast genauso schnell und genauso groß, und die Miete ist spürbar günstiger.
Wofür sie sich eignet
- Inferenz von Sprachmodellen mit 7–8 Mrd. Parametern in FP16 und bis 30 Mrd. in 4-Bit-Quantisierung. Für einen einzelnen Nutzer liegt die Antwortgeschwindigkeit nahe an der RTX 4090.
- Bildgenerierung und LoRA-Training für Stable Diffusion.
- Experimente und Training kleiner Modelle: BF16 und TF32 werden unterstützt, der gewohnte PyTorch-Stack läuft ohne besondere Anpassungen.
Was der RTX 3090 fehlt: FP8-Unterstützung (kam erst mit der Ada-Generation) und AV1-Hardwarekodierung. Für Video mit AV1 und für FP8 sehen Sie sich die RTX 4090 oder die L4 an.
Worauf Sie im Tarif achten sollten
- Zustand der Karte. Die Karte wird seit 2020 gebaut; fragen Sie den Hoster nach dem Austausch bei Ausfall und nach der Reaktionszeit des Supports.
- NVLink bei zwei Karten. Die RTX 3090 hat einen NVLink-Anschluss, die Brücke ist aber nicht überall eingebaut. Wird Ihr Modell auf zwei Karten aufgeteilt, klären Sie, ob sie verbunden sind.
- Prozessor und Arbeitsspeicher. In günstigen Servern stecken mitunter alte Xeons; für Inferenz ist das unkritisch, bei der Datenvorverarbeitung macht es sich bemerkbar.
Was sie pro Monat und pro Stunde kostet
Laut Katalog vom 17. November 2026 liegt der Medianpreis eines Servers mit einer RTX 3090 bei etwa 420 $ im Monat, die Hälfte der Tarife kostet zwischen 370 und 510 $. Umgerechnet auf 730 Stunden sind das rund 0,58 $ pro Stunde. Fast alle Angebote sind dedizierte Server mit monatlicher Abrechnung; stündliche Abrechnung ist selten. Für kurze Aufgaben mit Stundenabrechnung vergleichen Sie die Cloud-Tarife im Bereich GPU-Server und lesen Sie Was eine Stunde GPU-Server kostet.