RTX 3090 sunucu: 24 GB hızlı video belleğinin en ucuz hali
GeForce RTX 3090, 2020 yılına ait Ampere nesli bir oyun kartıdır. NVIDIA spesifikasyonuna göre 384 bit veri yolunda 24 GB GDDR6X bellek (936 GB/sn), 10.496 CUDA çekirdeği ve üçüncü nesil tensör çekirdekleri sunar; güç tüketimi 350 W'a kadardır. RTX 4090'dan daha eskidir, ancak belleği neredeyse aynı hızda ve aynı kapasitededir; kiralaması ise belirgin şekilde daha ucuzdur.
Hangi işler için uygundur
- Dil modeli çıkarımı: FP16'da 7–8 milyar, 4 bit nicemlemeyle 30 milyara kadar parametre. Tek bir kullanıcı için yanıt hızı RTX 4090'a yakındır.
- Görsel üretimi ve Stable Diffusion için LoRA eğitimi.
- Deneyler ve küçük modellerin eğitimi: BF16 ve TF32 desteklenir, alışılmış PyTorch yığını özel ayar gerektirmeden çalışır.
RTX 3090'da olmayanlar: FP8 desteği (Ada neslinde geldi) ve donanımsal AV1 kodlama. AV1'li video ve FP8 için RTX 4090'a veya L4'e bakın.
Tarifede neleri kontrol etmeli
- Kartın durumu. Kart 2020'den beri üretiliyor; sağlayıcıya arıza durumunda değişimi ve destek ekibinin yanıt süresini sorun.
- İki kartlı yapılandırmalarda NVLink. RTX 3090'da NVLink konektörü vardır, ancak köprü her yerde takılı değildir. Model iki karta bölünecekse kartların bağlı olup olmadığını teyit edin.
- İşlemci ve bellek. Ucuz sunucularda eski Xeon'lar bulunabilir; çıkarım için kritik değildir, veri ön işlemede ise fark edilir.
Aylık ve saatlik ne kadar tutar
17 Kasım 2026 tarihli kataloğa göre tek RTX 3090'lı bir sunucunun medyan fiyatı ayda yaklaşık 420 $; tarifelerin yarısı 370 ile 510 $ arasındadır. 730 saate bölündüğünde bu, saatte yaklaşık 0,58 $ eder. Tekliflerin neredeyse tamamı aylık ödemeli özel sunuculardır; saatlik ödeme nadirdir. Saatlik ödemeli kısa işler için GPU sunucuları bölümündeki bulut tarifelerini karşılaştırın ve GPU'lu sunucunun bir saati ne kadar tutar makalesini okuyun.