GPU-сервер: какая карта для какой задачи
Карту для сервера выбирают по видеопамяти, а уже потом по скорости. Если модель или сцена не помещается в память карты, сервер не подойдёт, как бы быстро он ни считал. Ниже — какие задачи на каких картах работают, чем серверные карты отличаются от игровых и сколько стоит месяц аренды каждой из них по каталогу accsly.
Короткий ответ. Для небольших моделей, распознавания речи и обработки видео хватает карты на 16–24 ГБ: T4, L4, RTX 4090. Для языковых моделей на десятки миллиардов параметров нужна карта на 48–96 ГБ: L40S или RTX PRO 6000. Для обучения больших моделей берут A100 и H100, обычно по несколько штук в одном сервере.
Три цифры, которые решают
- Видеопамять (VRAM). В неё загружаются веса нейросети, данные и промежуточные результаты. Не хватило памяти — задача либо падает с ошибкой, либо часть модели уходит в обычную память сервера и работает в разы медленнее. Сколько памяти нужно языковой модели, разобрано в отдельной статье своя языковая модель на сервере.
- Пропускная способность памяти. Сколько гигабайт в секунду карта читает из своей памяти. Для языковых моделей это главная цифра скорости: при генерации ответа каждое новое слово требует прочитать все веса модели. NVIDIA прямо пишет, что эта стадия упирается в скорость памяти, а не в вычисления.
- Связь между картами. Если модель не помещается в одну карту, её делят на несколько. Карты с NVLink обмениваются данными быстрее, чем через шину PCIe. У H100 SXM это 900 ГБ/с, а у L40S NVLink нет совсем.
Карты, которые чаще всего сдают в аренду
Я взял тарифы с видеокартой из каталога accsly на 13 ноября 2026 года и оставил только те, где в сервере одна целая карта. Цена — середина рынка за месяц, в скобках — диапазон, в который попадает средняя половина тарифов. Характеристики — со страниц карт на сайте NVIDIA.
| Карта | Память | Пропускная способность | Цена за месяц | Тарифов / хостеров |
|---|---|---|---|---|
| RTX A4000 | 16 ГБ | 448 ГБ/с | 31 000 ₽ (25 000–42 700) | 11 / 8 |
| RTX 3090 | 24 ГБ | 936 ГБ/с | 35 000 ₽ (32 300–41 600) | 12 / 7 |
| L4 | 24 ГБ | 300 ГБ/с | 44 200 ₽ (37 200–70 800) | 20 / 10 |
| T4 | 16 ГБ | 320 ГБ/с | 45 600 ₽ (33 200–68 500) | 29 / 9 |
| RTX 4090 | 24 ГБ | 1 008 ГБ/с | 46 400 ₽ (39 900–53 900) | 15 / 9 |
| RTX 5090 | 32 ГБ | 1 792 ГБ/с | 58 000 ₽ (53 700–68 300) | 11 / 7 |
| L40S | 48 ГБ | 864 ГБ/с | 77 100 ₽ (56 300–97 100) | 11 / 9 |
| A100 | 40 или 80 ГБ | 1 935–2 039 ГБ/с | 91 200 ₽ (88 500–101 600) | 9 / 8 |
| RTX PRO 6000 | 96 ГБ | 1 597 ГБ/с | 124 400 ₽ (94 400–211 300) | 29 / 11 |
| H100 | 80 ГБ | 3 350 ГБ/с (SXM) | 199 100 ₽ (167 500–246 800) | 11 / 10 |
Две вещи бросаются в глаза. Старая T4 стоит почти как L4, хотя L4 новее и памяти у неё больше. И игровые RTX 3090 и 4090 дешевле серверных карт с той же памятью, а память у них при этом втрое быстрее, чем у L4.
Какая карта для какой задачи
Распознавание речи, небольшие модели, видео
Модели распознавания речи, классификаторы, поиск по смыслу, языковые модели на 7–8 млрд параметров в сжатом виде занимают несколько гигабайт. Им хватает 16–24 ГБ. L4 потребляет 72 Вт и занимает один низкий слот, поэтому хостеры ставят их по несколько в сервер. T4 того же класса: 16 ГБ и 70 Вт, но поколение старше. Обе умеют аппаратно кодировать видео. Подборки: серверы с L4, серверы с T4.
Генерация изображений и языковые модели до 30 млрд параметров
Здесь важны и память, и скорость. RTX 4090 и 3090 дают 24 ГБ и около терабайта в секунду, RTX 5090 — 32 ГБ и 1,8 ТБ/с. Для одного пользователя или небольшой команды это самый дешёвый способ получить быструю карту. Ограничения игровых карт: у RTX 4090 и 5090 нет NVLink для объединения в пару, и ни одну игровую карту нельзя разделить на изолированные части. В каталоге 12 из 15 тарифов с RTX 4090 — это выделенные серверы, то есть вся машина целиком ваша.
Языковые модели на 70 млрд параметров, рендер
Модели на 70 млрд параметров в 4-битном сжатии весят около 35 ГБ, и это уже больше любой игровой карты. Нужна карта на 48 ГБ и больше. L40S даёт 48 ГБ с защитой памяти от ошибок (ECC), NVIDIA позиционирует её для инференса, генерации изображений и рендера. RTX PRO 6000 Blackwell — 96 ГБ и 1,6 ТБ/с, на неё помещается 70-миллиардная модель в 8-битном формате. Подборки: серверы с L40S, серверы с RTX PRO 6000.
Обучение и большие модели
Обучение требует в несколько раз больше памяти, чем запуск готовой модели, и почти всегда идёт на нескольких картах сразу. Здесь нужны A100 (40 или 80 ГБ, до 2 ТБ/с) и H100 (80 ГБ, 3,35 ТБ/с у версии SXM) со связью NVLink. H100 вдвое дороже A100, но память у неё в полтора раза быстрее. Подборки: серверы с A100, серверы с H100.
Удалённые рабочие места и графика
Для виртуальных рабочих столов, CAD и 3D-программ подходят профессиональные карты RTX A4000, RTX 4000 Ada и A16. У A16 на одной плате четыре GPU по 16 ГБ, она рассчитана на много пользователей с небольшой графической нагрузкой.
Целая карта или её часть
Серверные карты можно делить между клиентами. A100 делится на семь изолированных частей, RTX PRO 6000 — на четыре. Хостер может продавать такую часть как «сервер с A100», хотя вам достанется 10 ГБ памяти, а не 80. В каталоге такие тарифы встречаются у A16, A40 и L4: видеопамяти в них 2, 4 или 8 ГБ. Перед заказом проверьте в описании тарифа объём видеопамяти. Он должен совпадать с объёмом карты, если вам нужна карта целиком.
Облако, VPS или выделенный сервер
В каталоге половина тарифов с видеокартой — выделенные серверы, половина — облачные и VPS. Облачный сервер можно создать на несколько часов и удалить, это удобно для экспериментов и разовых задач. Как посчитать, что выгоднее, разобрано в статье аренда GPU с почасовой оплатой. Выделенный сервер выгоднее, если карта занята круглые сутки: машина целиком ваша и соседи не делят с вами ни процессор, ни диск. Подборка: выделенные серверы с GPU.
Если видеокарта нужна только для небольшой модели и скорость ответа не критична, обойдитесь без неё. Модели на 7–8 млрд параметров работают и на процессоре, если хватает оперативной памяти. Подборка: VPS для нейросетей на процессоре.
Что проверить перед заказом
- Объём видеопамяти — целая карта или её часть.
- Оперативная память и диск. Модель сначала скачивается на диск и читается в память сервера. У тарифов с одной картой середина рынка — 64 ГБ оперативной памяти. Для больших моделей берите NVMe от 200 ГБ.
- Версия драйвера и CUDA. Узнайте, ставит ли хостер драйвер сам и какой версии. Свежим фреймворкам нужна свежая CUDA.
- Число карт и связь между ними, если модель не помещается в одну.
- Разовые платежи. У 24 тарифов из каталога, почти все — выделенные серверы, есть плата за установку.