Server mit RTX A6000: 48 GB auf einer Karte und 96 GB im Paar
Die NVIDIA RTX A6000 ist die stärkste professionelle Karte der Generation Ampere. Laut NVIDIA-Spezifikation hat sie 48 GB GDDR6 mit Fehlerkorrektur (ECC) und 768 GB/s Bandbreite, 10.752 CUDA-Kerne, aktive Kühlung und eine Leistungsaufnahme von bis zu 300 W. Zwei Karten lassen sich per NVLink-Brücke (bis 112 GB/s) verbinden, im Paar ergeben sich 96 GB. Im Grunde ist es dieselbe Karte wie die A40, nur mit Lüfter und schnellerem Speicher.
Wofür sie sich eignet
- Sprachmodelle mit 30–70 Mrd. Parametern: 30–34 Mrd. in 8 Bit, 70 Mrd. in 4-Bit-Quantisierung auf einer Karte oder mit Reserve für den Kontext auf einem NVLink-Paar.
- Feintuning mittelgroßer Modelle per LoRA und QLoRA.
- Rendering aufwendiger Szenen und Visualisierung, für die 24 GB nicht reichen.
Neuer in der 48-GB-Klasse ist die L40S mit FP8; brauchen Sie mehr Speicher auf einer Karte, sehen Sie sich die RTX PRO 6000 mit 96 GB an. Wie viel Speicher ein Modell belegt, erklärt der Artikel Ein eigenes Sprachmodell auf dem Server.
Worauf Sie im Tarif achten sollten
- Modellbezeichnung. RTX A6000 (Ampere) und RTX 6000 Ada sind verschiedene Karten: Die zweite hat ebenfalls 48 GB, ist aber neuer und schneller. Tarife mit „A6000 Ada“ im Namen klären Sie mit dem Hoster.
- Cloud oder dedizierter Server. Mit dieser Karte gibt es sowohl Cloud-Tarife mit 1–4 Karten als auch dedizierte Server; prüfen Sie, ob ein Cloud-Tarif die ganze Karte bietet.
- NVLink bei zwei Karten: Fragen Sie, ob die Brücke eingebaut ist.
Was sie pro Monat und pro Stunde kostet
Laut Katalog vom 17. November 2026 liegt der Medianpreis eines Servers mit einer RTX A6000 bei etwa 520 $ im Monat, eine Karte kostet zwischen 420 und 700 $. Umgerechnet auf 730 Stunden sind das rund 0,71 $ pro Stunde und damit weniger als bei den meisten anderen 48-GB-Karten. Stündliche Abrechnung bietet keiner der Hoster mit dieser Karte im Katalog an, alle Tarife sind monatlich. Für kurze Aufgaben vergleichen Sie die Stundentarife mit L40S und lesen Sie, wie man den Stundenpreis berechnet.