RTX A6000 sunucu: tek kartta 48 GB, çift kartta 96 GB
NVIDIA RTX A6000, Ampere neslinin en üst profesyonel kartıdır. NVIDIA spesifikasyonuna göre 768 GB/sn bant genişliğine sahip hata düzeltmeli (ECC) 48 GB GDDR6 bellek, 10.752 CUDA çekirdeği, aktif soğutma ve 300 W'a kadar güç tüketimi sunar. İki kart NVLink köprüsüyle (112 GB/sn'ye kadar) bağlanır ve çift olarak 96 GB elde edilir. Özünde A40 ile aynı karttır, ancak fanlıdır ve belleği daha hızlıdır.
Hangi işler için uygundur
- 30–70 milyar parametrelik dil modelleri: 8 bitte 30–34 milyar; 4 bit nicemlemede 70 milyar tek kartta ya da NVLink'li bir çiftte bağlam için payla.
- İnce ayar: orta boyutlu modellerin LoRA ve QLoRA ile eğitimi.
- 24 GB'ın yetmediği ağır sahnelerin render'ı ve görselleştirme.
48 GB sınıfında daha yeni olanı FP8 destekli L40S'tir; tek kartta daha fazla bellek gerekiyorsa 96 GB'lık RTX PRO 6000'e bakın. Bir modelin ne kadar bellek kaplayacağı kendi dil modelinizi sunucuda çalıştırmak makalesinde anlatılıyor.
Tarifede neleri kontrol etmeli
- Model adı. RTX A6000 (Ampere) ve RTX 6000 Ada farklı kartlardır: ikincisinde de 48 GB vardır, ancak daha yeni ve daha hızlıdır. Adında «A6000 Ada» geçen tarifeleri sağlayıcıya teyit ettirin.
- Bulut mu, özel sunucu mu. Bu kartla hem 1–4 kartlı bulut tarifeleri hem de özel sunucular var; bulut tarifesinde kartın bütün olup olmadığını kontrol edin.
- İki kartlı yapılandırmada NVLink: köprünün takılı olup olmadığını sorun.
Aylık ve saatlik ne kadar tutar
17 Kasım 2026 tarihli kataloğa göre tek RTX A6000'li bir sunucunun medyan fiyatı ayda yaklaşık 520 $; tek kart 420 ile 700 $ arasında. 730 saate bölündüğünde bu, saatte yaklaşık 0,71 $ eder; 48 GB'lık diğer kartların çoğundan daha ucuzdur. Katalogda bu karta sahip sağlayıcıların hiçbiri saatlik ödeme sunmuyor, tüm tarifeler aylık. Kısa işler için L40S'li saatlik tarifeleri karşılaştırın ve GPU'lu sunucunun bir saati ne kadar tutar makalesini okuyun.