Сервер с RTX 5090: 32 ГБ GDDR7 и что учесть с драйвером и CUDA
GeForce RTX 5090 — старшая игровая карта поколения Blackwell, вышедшая в начале 2025 года. По спецификации NVIDIA у неё 32 ГБ GDDR7 на 512-битной шине (около 1,8 ТБ/с), 21 760 ядер CUDA, тензорные ядра пятого поколения с поддержкой FP4 и потребление до 575 Вт. NVLink нет. По сравнению с RTX 4090 памяти на треть больше, а её пропускная способность выше примерно на 78 %.
Для каких задач подходит
- Языковые модели до 30–32 млрд параметров в 4–8-битном квантовании с запасом под контекст. Скорость генерации ответа упирается в пропускную способность памяти, и здесь RTX 5090 обгоняет многие серверные карты.
- Генерация изображений и видео — 32 ГБ позволяют держать крупные модели целиком, без выгрузки весов.
- Рендер и кодирование видео: три аппаратных кодировщика NVENC с поддержкой AV1.
Что проверить в тарифе
- Версия CUDA. Для карт Blackwell нужен CUDA 12.8 или новее и свежие сборки фреймворков (PyTorch с 2.7). На старом образе карта может не определиться в библиотеке, хотя nvidia-smi её видит.
- Питание и охлаждение. 575 Вт на карту — это мощный блок питания и хороший отвод тепла. В выделенном сервере спросите, какой у машины блок питания, особенно для сборок на две карты.
- Процессор, память и диск. Для инференса достаточно 8–16 ядер, 64–128 ГБ оперативной памяти и NVMe от 1 ТБ.
- Тип тарифа. Большинство предложений — выделенные серверы, облачных тарифов с этой картой немного.
Сколько стоит в месяц и в час
По каталогу на 17 ноября 2026 года середина цены сервера с одной RTX 5090 — около 57 700 ₽ в месяц, у половины тарифов цена от 53 до 68 тысяч. В пересчёте на 730 часов это около 79 ₽ в час. Почасовую оплату предлагают меньше половины хостеров с этой картой. Для модели, которой не хватает 32 ГБ, сравните цены на карты с 48 ГБ — L40S и RTX A6000 — или на RTX PRO 6000 с 96 ГБ. Подробнее о выборе карты — в статье какую видеокарту выбрать для сервера.