El informe de septiembre de AI Gateway de Vercel afirma que, en agosto, los modelos de pesos abiertos procesaron el 56 % de los tokens enviados a través de su gateway, pero representaron el 14 % del gasto estimado. Esta diferencia muestra que el volumen de uso y los presupuestos para modelos pueden contar historias distintas. Es una instantánea del tráfico de un solo gateway, no una medición de todo el mercado de IA ni de las facturas reales de sus clientes.

En el minuto 20:03 del episodio 290 del pódcast All-In, el panel debate el ritmo al que se publican modelos de pesos abiertos y modelos prémium, y sostiene que los modelos más capaces que se pueden descargar amplían el acceso. Esa es la interpretación del panel. Un dato distinto y más acotado procede del índice de producción de AI Gateway de septiembre de Vercel, que informa del tráfico hasta agosto.

El gran cambio

  • Qué ha cambiado: Los modelos de pesos abiertos pasaron de ser una minoría a representar el 56 % de los tokens de Vercel AI Gateway entre diciembre y agosto, mientras que supusieron el 14 % del gasto estimado a precios de lista en agosto.
  • Por qué importa: Los equipos que eligen modelos deben distinguir entre la demanda de tokens y el gasto, y después comparar la calidad y el coste operativo total en las tareas que realizan. El índice no ofrece resultados por tarea ni ahorros para un equipo en particular.
  • Qué conviene observar: La cuestión práctica es si el modelo elegido cumple los requisitos de calidad, latencia, privacidad y operación del equipo a su coste total. La cuota de tokens por sí sola no responde eso; también importan las condiciones de licencia, el hardware y el tiempo de ingeniería.

Qué miden las cifras del 56 % y el 14 %

Vercel afirma que, en agosto, los modelos de pesos abiertos procesaron el 56 % de los tokens enviados a través de AI Gateway; fue el primer mes en que representaron la mayoría del volumen de ese gateway. Supusieron el 14 % del gasto estimado. El gráfico de la empresa muestra que su cuota subió del 13 % en abril al 56 % en agosto. El informe está fechado el 17 de septiembre y utiliza datos hasta agosto.

La diferencia no significa que ejecutar esos modelos sea gratis. Los pesos descargables siguen requiriendo capacidad de cómputo, electricidad y operación. A partir de las cuotas redondeadas, el gasto estimado por token del grupo de pesos abiertos fue aproximadamente una octava parte del de los demás modelos en este conjunto de datos. El cálculo usa las cifras de Vercel: 14 % del gasto dividido por 56 % de los tokens, en comparación con el 86 % restante del gasto dividido por el 44 % restante de los tokens. Describe un promedio entre distintos modelos y tipos de token, no el precio ni la capacidad de un modelo concreto.

El índice cuenta tokens de entrada, salida, razonamiento, entrada almacenada en caché y creación de caché. Esos tipos de token pueden tener precios distintos, por lo que el promedio de un grupo también refleja lo que sus usuarios enviaron y generaron. Vercel estima el gasto a partir de los precios de lista publicados por los laboratorios y advierte que las facturas reales pueden diferir. Este método permite comparar el tráfico de equipos que aportan sus propias claves de proveedor, pero no constituye una auditoría de facturas ni mide el coste de cómputo del autoalojamiento.

El informe también afirma que el precio medio estimado por token en todo el gateway cayó un 23,2 % en agosto. Entre los equipos que procesaron cada uno más de 10 millones de tokens tanto en julio como en agosto, el precio estimado mediano por token bajó un 7,6 %. Vercel atribuye parte de la caída al aumento del uso de modelos de pesos abiertos. El informe no determina qué proporción del cambio se debió a ese giro, a las distintas mezclas de tokens o a que los equipos cambiaran de modelo o carga de trabajo.

Un solo gateway no representa todo el mercado

El índice reúne tráfico agregado y anonimizado enviado a través de Vercel AI Gateway. Ofrece una perspectiva de solicitudes de producción reales que pasan por ese servicio, algo más concreto que una clasificación de modelos o un anuncio de lanzamiento. Sin embargo, el informe no demuestra que sus clientes representen a todos los usuarios de IA, no revela un marco de muestreo para el mercado general ni muestra la adopción en cargas de trabajo que no utilizan el gateway. Por tanto, sus porcentajes deben leerse como la composición del tráfico de Vercel Gateway.

Vercel también señala que su clasificación de pesos abiertos sigue la lista actual de modelos de AI Gateway, más amplia que la definición utilizada en informes anteriores. Las cifras previas podrían cambiar a medida que Vercel revise su metodología y reciba datos más completos. La tendencia mensual es informativa, pero el propio informe advierte que cambió el límite de la categoría.

«Pesos abiertos» tampoco equivale a «código abierto». Los pesos de un modelo son parámetros numéricos aprendidos que pueden publicarse para su descarga. La Definición de IA de código abierto 1.0 de la Open Source Initiative establece un criterio más amplio: exige la libertad de usar, estudiar, modificar y compartir un sistema de IA, e identifica la información sobre los datos de entrenamiento, el código y los parámetros del modelo como partes de la forma preferida para su modificación. Un checkpoint descargable aún puede tener restricciones de licencia u omitir el código de entrenamiento y detalles de los datos. Los equipos deben comprobar la licencia y los materiales publicados de cada modelo.

Qué implica la diferencia para quienes compran IA

Las cifras de Vercel respaldan una conclusión acotada: en este gateway, los modelos de pesos abiertos procesaron más volumen de tokens y representaron una proporción menor del gasto estimado a precios de lista. No demuestran que la misma carga de trabajo cueste menos en un servidor local ni que un modelo más barato pueda sustituir a uno prémium sin cambios en calidad, velocidad o fiabilidad.

Para un equipo de producto, la comparación pertinente es cuánto cuesta completar la misma tarea con el mismo criterio de aceptación. Eso implica contar el volumen de entrada y salida, los reintentos, las herramientas, el enrutamiento, la latencia y cualquier revisión humana; después, comparar la facturación del proveedor con el hardware y la operación necesarios para ejecutar directamente los pesos. El índice de septiembre no ofrece comparaciones por tarea. Su valor es señalar que los modelos de pesos abiertos ya representan un uso considerable en un gateway de producción, mientras que el gasto sigue concentrado en otras categorías.

El argumento más amplio del panel de All-In —que la disponibilidad de modelos está aumentando— puede evaluarse a la luz de este tipo de evidencia de uso. Sin embargo, el índice de Vercel no verifica todas las afirmaciones sobre modelos que se hicieron en el debate ni predice cómo evolucionará su adopción. Por ahora conviene distinguir entre cuántos tokens procesa una categoría, cuáles son los cargos estimados del proveedor y cuánto le cuesta a un equipo obtener un resultado fiable.

Fuentes y lecturas adicionales