La mejor GPU para AI local en 2025: benchmark real

Cuando se trata de ejecutar modelos de AI locales, la VRAM es la especificación más importante — más que la velocidad de reloj de la CPU, más que el ancho de banda de la RAM del sistema, más que la generación PCIe. Todo el modelo (o la mayor parte posible) necesita residir en la memoria de video de la GPU durante la inferencia. Cuando no cabe, Ollama recurre a la RAM de la CPU y el rendimiento cae entre 3 y 10×.

Esta guía hace benchmark de las GPUs de consumo más comunes para cargas de trabajo de AI local y te ayuda a decidir qué comprar — o si el hardware que ya tienes es suficiente. Todos los valores de tokens/s se midieron ejecutando Qwen3 14B Q4_K_M salvo que se indique lo contrario, que es uno de los tamaños de modelo "serios" más habituales para usuarios domésticos.

Selección rápida por presupuesto

Los precios reflejan el mercado minorista a mediados de 2025. Los precios de segunda mano son típicamente un 20–35% más bajos. El valor de tokens/s del M4 Pro corresponde a la configuración de 48 GB de memoria unificada; la variante de 24 GB ejecuta el mismo modelo pero con menos margen para el contexto.

* La memoria unificada es compartida entre CPU y GPU. La "VRAM" efectiva equivale a la memoria total del sistema menos el uso del sistema operativo (~4 GB).

VRAM vs RAM: qué importa realmente

La RAM del sistema (DDR5, DDR4) tiene un ancho de banda máximo de aproximadamente 50–90 GB/s en plataformas modernas. La VRAM de la GPU (GDDR6X en una 4090) entrega 1 TB/s — unas 15–20× más rápido. Como la inferencia de transformers está muy limitada por el ancho de banda (la GPU tiene que leer todos los pesos del modelo para cada token generado), el ancho de banda de la VRAM se traduce directamente en tokens por segundo.

Cuando un modelo no cabe en la VRAM, Ollama lo divide entre la GPU y la memoria de la CPU. Las capas que caben en VRAM corren a velocidad completa de GPU; el resto corre en CPU. Un modelo 14B que supere tu límite de VRAM por 1 GB puede seguir alcanzando 20 tok/s; el mismo modelo 8 GB por encima del límite puede correr a 4–6 tok/s. Más capas descargadas a CPU = inferencia más lenta, no un fallo total.

AMD y Apple Silicon

AMD serie RX 7000

La RX 7900 GRE de AMD (16 GB, ~$500) y la RX 7900 XTX (24 GB, ~$900) ofrecen VRAM competitiva a precios más bajos que los equivalentes de NVIDIA, pero el ecosistema de software es menos maduro. Ollama usa ROCm para la aceleración AMD, que solo funciona en Linux a mediados de 2025 — los usuarios de AMD en Windows caen de vuelta a inferencia por CPU. El soporte de ROCm mejoró significativamente en 2024–2025 y ya es estable para las arquitecturas de modelo más importantes, pero hay que esperar algún comportamiento extraño de drivers que los usuarios de NVIDIA/CUDA no encuentran.

Si usas Linux y ejecutas principalmente modelos open-source, una RX 7900 GRE a $500 por 16 GB de VRAM es una de las mejores relaciones calidad-precio del mercado. Si usas Windows o necesitas algo que funcione sin configuración, quédate con NVIDIA por ahora.

Apple Silicon (serie M3 / M4)

La arquitectura de memoria unificada de Apple está especialmente bien adaptada para AI local. Como la CPU y la GPU comparten la misma RAM física, un M4 Max de 48 GB tiene 48 GB de "VRAM" disponibles — algo que costaría más de $3000 en una GPU discreta. El ancho de banda de memoria (~400–800 GB/s en M4 Pro/Max) está entre GDDR6 y GDDR6X, lo que da buenos tokens/s para modelos grandes.

Un Mac Mini M4 Pro de 48 GB (~$2000) puede ejecutar Qwen3 32B en Q4_K_M completo — una tarea que en PC requiere una RTX 4090. Lo hace en silencio, con bajo consumo y sin GPU dedicada. La contrapartida: para modelos más pequeños que caben en VRAM, una RTX 4070 Super de $600 será un 20–40% más rápida en tokens/s brutos.

El mercado de GPU de segunda mano

La RTX 3090 (24 GB VRAM) es la GPU de segunda mano más atractiva para AI local. Fue la reina de VRAM consumer de su generación, y las unidades ahora se negocian por $400–600 en eBay y mercados locales — poniendo 24 GB de VRAM al alcance de un presupuesto intermedio. Con 24 GB puedes ejecutar Qwen3 14B completamente en VRAM con cuantización alta, o intentar modelos 32B con algo de CPU offloading.

La RTX 3080 Ti (12 GB) y la RTX 3080 (10 GB) también valen la pena por su relación precio-rendimiento en modelos 7–8B, donde su rápido ancho de banda GDDR6X sigue entregando 30–45 tok/s a una fracción del coste de una tarjeta nueva de la serie 40.

Monitorea el uso de VRAM en tiempo real

Mientras Ollama ejecuta un modelo, puedes observar el consumo y la utilización de VRAM para verificar que el modelo está completamente cargado en la GPU y diagnosticar problemas de rendimiento:

# NVIDIA — uso de VRAM en tiempo real (Linux)
watch -n 1 nvidia-smi

# NVIDIA — uso de VRAM en tiempo real (Windows PowerShell)
nvidia-smi -l 1

# Apple Silicon — uso de GPU y presión de memoria
sudo powermetrics --samplers gpu_power -i 1000 | grep -iE "gpu|memory"

Busca MiB Used en la salida de nvidia-smi. Si está cerca del VRAM total de tu tarjeta, el modelo cabe. Si la utilización de la GPU (GPU-Util %) sube al 100% durante la generación, tu GPU es el cuello de botella — lo cual es la situación ideal.