RTX 5090 sunucu: 32 GB GDDR7 ve sürücü ile CUDA konusunda dikkat edilmesi gerekenler
GeForce RTX 5090, 2025 başında çıkan Blackwell neslinin en üst oyun kartıdır. NVIDIA spesifikasyonuna göre 512 bit veri yolunda 32 GB GDDR7 bellek (yaklaşık 1,8 TB/sn), 21.760 CUDA çekirdeği, FP4 destekli beşinci nesil tensör çekirdekleri ve 575 W'a kadar güç tüketimi sunar. NVLink yoktur. RTX 4090 ile karşılaştırıldığında belleği üçte bir daha fazla, bant genişliği ise yaklaşık %78 daha yüksektir.
Hangi işler için uygundur
- 30–32 milyar parametreye kadar dil modelleri 4–8 bit nicemlemeyle, bağlam için pay bırakarak. Yanıt üretme hızı bellek bant genişliğine bağlıdır ve bu konuda RTX 5090 birçok sunucu kartını geride bırakır.
- Görsel ve video üretimi: 32 GB, büyük modelleri ağırlıkları RAM'e boşaltmadan bütünüyle bellekte tutmaya yeter.
- Render ve video kodlama: AV1 destekli üç donanımsal NVENC kodlayıcı.
Tarifede neleri kontrol etmeli
- CUDA sürümü. Blackwell kartları CUDA 12.8 veya üzerini ve framework'lerin güncel sürümlerini (2.7'den itibaren PyTorch) gerektirir. Eski bir imajda nvidia-smi kartı görse bile kütüphane onu tanımayabilir.
- Güç ve soğutma. Kart başına 575 W, güçlü bir güç kaynağı ve iyi ısı tahliyesi demektir. Özel sunucuda, özellikle iki kartlı yapılandırmalarda, makinenin güç kaynağını sorun.
- İşlemci, bellek ve disk. Çıkarım için 8–16 çekirdek, 64–128 GB RAM ve 1 TB veya üzeri NVMe yeterlidir.
- Tarife türü. Tekliflerin çoğu özel sunucudur; bu kartla bulut tarifesi azdır.
Aylık ve saatlik ne kadar tutar
17 Kasım 2026 tarihli kataloğa göre tek RTX 5090'lı bir sunucunun medyan fiyatı ayda yaklaşık 700 $; tarifelerin yarısı 650 ile 830 $ arasındadır. 730 saate bölündüğünde bu, saatte yaklaşık 0,96 $ eder. Bu karta sahip sağlayıcıların yarısından azı saatlik ödeme sunar. Modele 32 GB yetmiyorsa 48 GB'lık kartların, L40S ve RTX A6000'in, ya da 96 GB'lık RTX PRO 6000'in fiyatlarını karşılaştırın. Kart seçimi hakkında daha fazlası sunucu için hangi ekran kartı seçilmeli makalesinde.