NVIDIA A40 sunucu: çıkarım, render ve sanal iş istasyonları için 48 GB bellek
NVIDIA A40, veri merkezleri için Ampere nesli bir sunucu kartıdır. NVIDIA spesifikasyonuna göre 696 GB/sn bant genişliğine sahip hata düzeltmeli (ECC) 48 GB GDDR6 bellek, 10.752 CUDA çekirdeği, pasif soğutma ve 300 W'a kadar güç tüketimi sunar. İki kart NVLink (112,5 GB/sn) ile bağlanır ve çift olarak 96 GB elde edilir. Kart NVIDIA vGPU'yu destekler; bu yüzden sağlayıcılar onu hem bütün hem de paylar halinde sunar.
Hangi işler için uygundur
- 24 GB'ın yetmediği dil modelleri: 8 bitte 30–34 milyar parametre, kısa bağlamla 4 bit nicemlemede 70 milyar.
- Render ve 3D: ikinci nesil RT çekirdekleri ve ağır sahneler için bol bellek.
- Sanal iş istasyonları: CAD ve video kurgu için vGPU profilleri üzerinden.
A40'ın belleği oyun kartlarınınkinden yavaştır: bir dil modelinin yanıt üretiminde, model 24 GB'a sığıyorsa 1 TB/sn belleğe sahip RTX 4090 daha hızlıdır. Aynı 48 GB kategorisinde daha yeni ve hızlı olanı L40S'tir.
Bütün kart mı, vGPU payı mı
Tablodaki en ucuz satırlar, 2, 4 veya 8 GB video belleğine sahip tek bir kartın paylarıdır. Uzak masaüstü ve hafif grafik işleri için uygundur, ancak dil modelleri için değil. Çıkarım ve render için 48 GB'lık bütün kart gerekir: tarifedeki bellek miktarını kontrol edin. A40'ta MIG yoktur; yalnızca vGPU ile bölünür.
Aylık ve saatlik ne kadar tutar
17 Kasım 2026 tarihli kataloğa göre bütün bir A40'lı sunucunun medyan fiyatı ayda yaklaşık 1.050 $; tarifelerin yarısı 600 ile 1.100 $ arasındadır. 730 saate bölündüğünde bu, saatte yaklaşık 1,44 $ eder. Hem bulut tarifeleri hem de özel sunucular var; saatlik ödemeyi az sayıda sağlayıcı sunuyor. Karta birkaç saatliğine ihtiyacınız varsa saatlik tarifeleri karşılaştırın ve GPU'lu sunucunun bir saati ne kadar tutar makalesini okuyun. Bir modelin ne kadar bellek kapladığı kendi dil modelinizi sunucuda çalıştırmak makalesinde.