Servidores GPU con NVIDIA RTX PRO 6000

La NVIDIA RTX PRO 6000 es una tarjeta profesional de la generación Blackwell con 96 GB de memoria GDDR7 con corrección de errores (ECC). Es más que los 80 GB de una H100 PCIe y el doble que una RTX 6000 Ada. La razón principal para elegir un servidor GPU con RTX PRO 6000 es ejecutar en una sola tarjeta un modelo que antes necesitaba dos, sin repartir los pesos entre aceleradores. Además sigue siendo una tarjeta gráfica completa: tiene núcleos RT para trazado de rayos y codificadores NVENC por hardware, así que también se alquila para render y vídeo.

Tres tarjetas con nombres parecidos

En los catálogos es fácil confundir tres generaciones distintas, y sus precios difieren varias veces:

• Quadro RTX 6000 — arquitectura Turing, 24 GB. Una tarjeta gráfica antigua, con poca memoria y cómputo para las redes neuronales actuales.
• RTX 6000 Ada — 48 GB, la generación anterior. Por diseño se parece a la L40S.
• RTX PRO 6000 Blackwell — 96 GB GDDR7, núcleos tensor de quinta generación con formatos FP4, FP6 y FP8. Es la tarjeta reunida en esta página.

Blackwell también tiene variantes. La Server Edition está pensada para rack: refrigeración pasiva, hasta 600 W, con el flujo de aire de los ventiladores del servidor. Max-Q es una versión de estación de trabajo de 300 W con ventilador tipo turbina; es más fácil montar varias en un chasis, pero bajo carga sostenida trabaja a frecuencias más bajas. Si la línea del plan solo dice «RTX PRO 6000», pregunte al proveedor qué variante es: de ello dependen la velocidad y la disponibilidad de MIG.

Qué cabe en 96 GB

Como regla aproximada, en FP16 un modelo ocupa unos 2 GB por cada mil millones de parámetros, con cuantización de 8 bits alrededor de 1 GB y con 4 bits 0,5–0,6 GB. Encima hace falta margen para la caché KV, que crece con la longitud del contexto y el número de peticiones simultáneas.

• FP16 sin cuantizar — modelos de hasta unos 30–40 mil millones de parámetros con contexto moderado.
• 8 bits — un modelo de 70 mil millones de parámetros entero en una tarjeta, con sitio para la caché.
• 4 bits — modelos de la clase de 100–120 mil millones. El soporte de FP4 en los núcleos tensor acelera esta inferencia si su motor admite el formato.
• Ajuste fino — LoRA para modelos de 13–30 mil millones en 16 bits y QLoRA para 70 mil millones. El entrenamiento completo de modelos grandes no es tarea para esta tarjeta.
• Imágenes y vídeo — generación de imágenes en lotes grandes, modelos pesados de generación de vídeo que no caben cómodos en 24–48 GB.
• Render y 3D — escenas con texturas enormes que no entran en tarjetas de juego, render offline, transcodificación de vídeo con NVENC.

MIG, varias tarjetas y cuándo es mejor una H100

La Server Edition admite MIG: la tarjeta se puede dividir en cuatro instancias aisladas de unos 24 GB cada una, con su propia memoria y unidades de cómputo. Resulta útil cuando varios modelos pequeños o varios usuarios comparten un servidor. Si un plan ofrece una fracción de la tarjeta con parte de su memoria, es un vGPU o un segmento MIG, no una tarjeta completa: compare la cantidad de memoria, no el nombre del modelo.

Los planes «×2» y «×4» suman 192 y 384 GB, pero la RTX PRO 6000 no tiene NVLink y las tarjetas se comunican por PCIe 5.0. Para inferencia esto no suele molestar: cada tarjeta puede ejecutar su propia copia del modelo, y repartir un modelo entre dos tarjetas por PCIe funciona de forma aceptable. En el entrenamiento, donde las tarjetas sincronizan gradientes constantemente, el enlace más lento se come la ganancia. Si planea entrenar con varias GPU, mire los servidores con H100 y NVLink.

Controlador, CUDA e imagen

La tarjeta tiene compute capability 12.0. Necesita la rama de controladores R570 o posterior y CUDA 12.8 o superior. En imágenes antiguas con CUDA 12.4 la tarjeta no se detecta o el framework no encuentra kernels para ella. Tras recibir el servidor, revise la salida de nvidia-smi, la versión de CUDA dentro del contenedor y que PyTorch o su motor de inferencia estén compilados con soporte para esta arquitectura.

Pago por horas o por mes

Alquilar un servidor con RTX PRO 6000 en el catálogo cuesta aproximadamente de 830 a 5.700 dólares al mes, y un plan típico ronda los 1.800 dólares. El extremo inferior es una sola tarjeta en la nube; el superior, máquinas dedicadas con cuatro tarjetas. La mayoría de los planes se factura por horas, lo que compensa para una prueba, un procesamiento de datos puntual o un render con fecha de entrega: paga solo las horas que la máquina funciona. Si la tarjeta va a estar ocupada más de dos tercios del mes, compare con el precio mensual y con la sección de servidores dedicados con GPU. Antes de pagar, compruebe que el proveedor acepta su tarjeta en su moneda; si trata datos personales de residentes de la UE, revise también el país del centro de datos por el RGPD y la latencia hacia sus usuarios.