Сервер с NVIDIA A40: 48 ГБ памяти для инференса, рендера и виртуальных рабочих мест
NVIDIA A40 — серверная карта поколения Ampere для дата-центров. По спецификации NVIDIA у неё 48 ГБ GDDR6 с коррекцией ошибок (ECC) и пропускной способностью 696 ГБ/с, 10 752 ядра CUDA, пассивное охлаждение и потребление до 300 Вт. Две карты соединяются через NVLink (112,5 ГБ/с), и тогда в паре получается 96 ГБ. Карта поддерживает NVIDIA vGPU, поэтому хостеры продают её и целиком, и долями.
Для каких задач подходит
- Языковые модели, которым мало 24 ГБ: 30–34 млрд параметров в 8 битах, 70 млрд в 4-битном квантовании с коротким контекстом.
- Рендер и 3D: RT-ядра второго поколения и большая память для тяжёлых сцен.
- Виртуальные рабочие станции для CAD и монтажа — через профили vGPU.
Память у A40 медленнее, чем у игровых карт: при генерации ответа языковой модели RTX 4090 с её 1 ТБ/с быстрее, если модель помещается в 24 ГБ. Новее и быстрее в той же категории 48 ГБ — L40S.
Целая карта или доля vGPU
Самые дешёвые строки в таблице — доли одной карты с 2, 4 или 8 ГБ видеопамяти. Они подходят для удалённого рабочего места и лёгкой графики, но не для языковых моделей. Для инференса и рендера нужна целая карта на 48 ГБ — проверьте объём памяти в тарифе. MIG у A40 нет: делится она только через vGPU.
Сколько стоит в месяц и в час
По каталогу на 17 ноября 2026 года середина цены сервера с одной целой A40 — около 87 000 ₽ в месяц, у половины тарифов от 49 до 91 тысячи. В пересчёте на 730 часов это около 119 ₽ в час. Есть и облачные тарифы, и выделенные серверы; почасовую оплату предлагают немногие хостеры. Если карта нужна на несколько часов, сравните почасовые тарифы и прочитайте, как считать стоимость часа. Сколько памяти занимает модель — в статье своя языковая модель на сервере.