GPU-Server mit NVIDIA RTX 4000 Ada

Die RTX 4000 Ada Generation ist eine professionelle Workstation-Karte von NVIDIA auf Basis der Ada-Lovelace-Architektur, mit 20 GB GDDR6-Speicher und ECC-Fehlerkorrektur. Sie hat dieselben Tensor-Kerne mit FP8-Unterstützung, RT-Kerne der dritten Generation und denselben NVENC-Encoder mit AV1 wie die größeren Modelle der Reihe, bei moderatem Stromverbrauch. Einen Server mit RTX 4000 Ada zu mieten lohnt sich, wenn Sie eine aktuelle Architektur und zertifizierte Treiber brauchen, die 24–48 GB der größeren Karten für die Aufgabe aber überdimensioniert wären.

Zwei Versionen der Karte und womit man sie nicht verwechseln sollte

• RTX 4000 Ada Generation: Single-Slot-Karte mit aktivem Lüfter und bis zu 130 W Leistungsaufnahme.
• RTX 4000 SFF Ada: Low-Profile-Version mit 70 W, denselben 20 GB Speicher, aber niedrigeren Taktraten. Sie steckt in kompakten Servern und ist bei langen Rechenaufgaben spürbar langsamer als die volle Version.
• Quadro RTX 4000: eine ältere Turing-Karte mit 8 GB Speicher. Der Name ist ähnlich, die Klasse eine ganz andere: Steht im Tarif kein „Ada“, fragen Sie beim Anbieter nach dem genauen Modell.

Im Vergleich zur NVIDIA L4 hat die RTX 4000 Ada etwas weniger Speicher (20 GB statt 24 GB), dafür eine eigene Kühlung und Treiber für Grafikanwendungen; die L4 ist ein passiv gekühlter Rechenzentrumsbeschleuniger, vor allem für Inferenz und Video gedacht. Die L40S auf derselben Architektur bietet 48 GB und deutlich mehr Rechenleistung, kostet aber ein Mehrfaches.

Was in 20 GB Videospeicher passt

Faustregel für Sprachmodelle: etwa 2 GB pro Milliarde Parameter in FP16, etwa 1 GB bei 8-Bit-Quantisierung und 0,5–0,6 GB bei 4 Bit. Dazu kommt der KV-Cache, der mit der Kontextlänge und der Zahl gleichzeitiger Anfragen wächst.

• 7–8 Mrd. Parameter in FP16: passen, aber nur mit kurzem Kontext, denn allein die Gewichte belegen 14–16 GB.
• 13 Mrd. in 8 Bit: bequem, mit Reserve für Kontext und mehrere parallele Anfragen.
• Rund 30 Mrd. in 4 Bit: knapp und mit kleinem Kontext; für solche Modelle ist eine Karte mit 24–48 GB angenehmer.
• Bildgenerierung. SDXL läuft auf einer Karte mit Reserve. Flux in voller Präzision passt nicht in 20 GB, daher nutzt man FP8- oder quantisierte Versionen; die Tensor-Kerne von Ada rechnen FP8 in Hardware.
• Rendering und Video. Blender Cycles mit OptiX, Unreal Engine, CAD-Programme, Schnitt und Kodierung in H.264, HEVC und AV1 über NVENC.

Für Fine-Tuning reichen 20 GB für LoRA und QLoRA bei Modellen bis 7–8 Mrd. Parameter. Volles Training selbst kleiner Sprachmodelle braucht Karten mit mehr Speicher.

Eine Karte, ×2 und ×4

Im Katalog gibt es Tarife mit einer, zwei und vier Karten. Die RTX 4000 Ada hat weder NVLink noch MIG: Die Karten sind nur über PCIe 4.0 verbunden, und jede sieht ihre eigenen 20 GB. Ein ×4-Server bedeutet nicht 80 GB gemeinsamen Speicher, sondern vier getrennte Bereiche zu je 20 GB. Ein großes Modell lässt sich auf mehrere Karten aufteilen (Tensor- oder Pipeline-Parallelität in vLLM, Aufteilung der Schichten in llama.cpp), doch der Austausch über PCIe bremst die Generierung.

Mehrkarten-Tarife rechnen sich am besten bei unabhängigen Aufgaben: Vier Kopien eines Modells bedienen parallele Anfragen, oder ein Render-Job berechnet verschiedene Frames auf verschiedenen Karten. In Cloud-Tarifen wird die Karte meist komplett an die virtuelle Maschine durchgereicht; ist nur ein Anteil der Karte angegeben, klären Sie, wie viel Speicher Sie tatsächlich bekommen.

Treiber und CUDA

Die RTX 4000 Ada hat Compute Capability 8.9. Nötig ist CUDA 11.8 oder neuer, für FP8 CUDA 12 mit aktuellen Bibliotheken; der Treiberzweig R535 und neuer unterstützt beide Versionen der Karte. Prüfen Sie im Image die Ausgabe von nvidia-smi sowie die Versionen von CUDA und PyTorch: Framework-Builds für ältere CUDA-Versionen kennen diese Architektur womöglich nicht. Für Blender, Unreal und CAD, wo Zertifizierung zählt, verwendet man den professionellen Treiber RTX Enterprise oder Studio. Fragen Sie, welchen Treiber der Anbieter installiert und ob das Image den Grafik-Stack mit OpenGL und Vulkan enthält.

Preise, stündliche und monatliche Abrechnung

Stand 24.10.2026 kostet ein GPU-Server mit RTX 4000 Ada im Katalog etwa 350 bis 2.600 US-Dollar im Monat: unten Tarife mit einer Karte und 4 vCPUs, oben Systeme mit vier Karten, Dutzenden Kernen und fast 200 GB RAM. Ein typischer Tarif liegt bei rund 750–800 US-Dollar im Monat. Fast alle Tarife werden stundenweise abgerechnet. Das passt zu einem Rendering mit Deadline, Modelltests und einmaliger Generierung, wenn der Server ein paar Stunden läuft und dann gelöscht wird. Ist die Karte den ganzen Monat über mehr als den halben Tag ausgelastet, vergleichen Sie die Stundenrechnung mit dem Monatspreis. Wie man solche Tarife rechnet, steht in der Auswahl VPS mit stündlicher Abrechnung. Bezahlt wird meist per Karte; verarbeiten Sie personenbezogene Daten aus der EU, achten Sie auf das Land des Rechenzentrums: Es entscheidet über die Anwendung der DSGVO und über die Latenz zu Nutzern in Europa oder den USA.