Todos los productos 
NVIDIA T4: la tarjeta económica para inferencia y vídeo, qué soporta y dónde está su límite
La NVIDIA T4 salió en 2018 con la arquitectura Turing y sigue siendo la tarjeta de centro de datos más asequible para tareas de IA. Tiene 16 GB de memoria GDDR6, consume solo 70 W, ocupa una ranura de perfil bajo y se refrigera de forma pasiva: el aire lo mueven los ventiladores del servidor, por eso los centros de datos pueden montarla en casi cualquier máquina. De ahí el precio: alquilar un servidor con T4 suele costar bastante menos que cualquier plan con una tarjeta más nueva. La tabla de arriba reúne VPS en la nube con T4 y servidores dedicados, desde una tarjeta hasta equipos con cuatro.
Qué cabe en 16 GB
Una regla práctica: en FP16 un modelo ocupa unos 2 GB por cada mil millones de parámetros, en 8 bits alrededor de 1 GB y en 4 bits 0,5–0,6 GB. Además hace falta margen para la caché KV, que crece con la longitud del contexto y el número de peticiones simultáneas.
- Modelos de lenguaje. Un modelo de 7–8B parámetros funciona con cuantización de 8 o 4 bits, uno de 3–4B en FP16 completo. Es suficiente para un chatbot de soporte, la clasificación de solicitudes o respuestas sobre una base de documentos. Por encima de 13B ya no cabe en una sola tarjeta con un contexto útil.
- Reconocimiento de voz. Whisper y modelos similares son una de las mejores tareas para la T4: la transcripción de llamadas y pódcasts va muchas veces más rápido que el tiempo real.
- Embeddings, OCR y visión artificial. Vectorizar documentos para búsqueda, leer texto de escaneos, detectar objetos y clasificar imágenes cabe en memoria con mucho margen.
- Generación de imágenes. Stable Diffusion funciona, pero cada imagen tarda bastante más que en tarjetas de clase RTX; para modelos grandes como Flux, 16 GB no bastan sin una compresión fuerte.
- Entrenamiento. Modelos pequeños y ajuste fino con LoRA o QLoRA hasta 7B son posibles, pero lentos. La T4 no es una tarjeta para entrenamiento serio.
Qué no puede hacer la T4 y qué revisar en la imagen
Los núcleos tensor de la T4 trabajan con FP16, INT8 e INT4, pero no admiten BF16 ni FP8. Muchos modelos recientes se publican en BF16 y en la T4 hay que ejecutarlos en FP16, lo que a veces requiere ajustes. La tarjeta tiene compute capability 7.5, mientras que algunos motores de inferencia y núcleos de atención recientes, como FlashAttention 2, exigen 8.0 o más, es decir, Ampere o posterior. Antes de alquilar, compruebe que su stack es compatible con Turing.
Los controladores no son un problema: la versión actual CUDA 12.x sigue admitiendo Turing y necesita un controlador de la rama 525 o posterior. En la imagen revise la versión del controlador y de CUDA y, si trabaja con Docker, si está instalado NVIDIA Container Toolkit.
Otra ventaja son los códecs por hardware NVENC y NVDEC. Un servidor GPU con T4 transcodifica varios flujos de vídeo a la vez a H.264 y HEVC casi sin cargar el procesador. Turing no codifica en AV1.
Una tarjeta, una fracción o varias
Algunos planes en la nube no dan la T4 entera, sino una fracción mediante vGPU: la máquina virtual recibe parte de la memoria de vídeo, por ejemplo 4 u 8 GB, y parte del cómputo. Para embeddings o un modelo pequeño de reconocimiento de voz es suficiente, pero para un modelo de lenguaje de 7B elija la tarjeta completa. La T4 no tiene MIG, la tecnología que divide las A100 y H100 en partes aisladas.
Los planes «×2» y «×4» significan dos o cuatro tarjetas independientes de 16 GB. La T4 no tiene NVLink y las tarjetas se comunican por PCIe 3.0, así que repartir un modelo entre ellas es lento. Un servidor con varias tarjetas compensa cuando cada una ejecuta su propia copia del modelo o su propia cola de trabajos: así es más fácil atender muchas peticiones en paralelo.
Precios, facturación y alternativas
En el catálogo los planes con T4 cuestan aproximadamente entre 210 y 4.000 dólares al mes; en el extremo bajo hay un VPS en la nube con una tarjeta, en el alto, servidores dedicados con cuatro tarjetas, mucha RAM y un procesador de muchos núcleos. La mayoría de los planes se facturan por horas. Si necesita la tarjeta unas horas al día para transcripción por lotes o procesamiento nocturno, la facturación por horas sale más barata; para un servicio que funciona día y noche, compare el plan mensual o un servidor dedicado. En la sección de facturación por horas se explica cómo calcularlo. Casi todos aceptan pago con tarjeta; la ubicación del centro de datos determina además la latencia hacia sus usuarios y, para clientes de la UE, las cuestiones del RGPD.
Si llega a los límites de la T4, mire las tarjetas vecinas:
- NVIDIA L4 es la sucesora directa con arquitectura Ada: 24 GB, 72 W, BF16 y FP8, codificación AV1 y una velocidad notablemente mayor. Cuesta más, pero elimina casi todas las limitaciones de la T4.
- NVIDIA A2 también tiene 16 GB y consume aún menos, con arquitectura Ampere y BF16, pero ofrece menos potencia de cálculo que la T4. Encaja en cargas ligeras donde importa la compatibilidad con motores nuevos.
Si aún no sabe qué tarjeta necesita, empiece por la visión general de los servidores GPU. Una T4 en alquiler es un primer paso sensato: permite averiguar de forma barata cuántos recursos necesita realmente su modelo antes de pagar por tarjetas superiores.