He notado una tendencia interesante en el mercado. Las empresas que hace poco gastaban tokens de manera lujosa, como si fuera agua del grifo, ahora están revisando sus cuentas con una calculadora en mano. La era del freeuse ha terminado oficialmente.

Hace dos años todo era simple. Los grandes inversores pagaban las facturas, nosotros escribíamos largos prompts, lanzábamos documentos PDF completos en el modelo, y a nadie le importaba. ¿Ahora? Cada token es dinero real. No unidades condicionales, sino dinero en efectivo.

¿Realmente qué ha cambiado? Primero, el costo de la potencia computacional ha aumentado rápidamente. La lucha por los chips NVIDIA H100 se ha convertido en un conflicto geopolítico. En segundo lugar, cuando el volumen diario de solicitudes API supera los millones, esa pequeña «1K Tokens» de repente se vuelve una máquina para extraer dinero. El token se ha equiparado con la moneda real.

Entiendo que muchos no entendían a dónde iban los fondos. Mirar la cuenta — shock. Pero el problema no son los precios en sí, sino cómo los estamos gastando. La solución está en tres cosas: caché semántico, compresión de prompts y enrutamiento de modelos. Esto ya no es lujo, es necesidad.

El caché semántico es la forma más sencilla de ahorrar. El usuario pregunta «¿Cómo restablecer la contraseña?» cientos de veces al día. ¿Por qué ejecutar GPT-4 cada vez? La primera vez calculamos, almacenamos en caché el resultado, y las siguientes consultas las devolvemos desde la caché. La latencia de segundos pasa a milisegundos, los costos casi a cero.

La compresión de prompts ya es cirugía. Los algoritmos analizan qué palabras son críticas y cuáles son redundantes. Se puede comprimir un texto de 1000 tokens a 300, manteniendo el sentido. Permito que las máquinas se comuniquen en su propio idioma — el resultado es el mismo, pero la tarifa se reduce en un 70%.

El enrutamiento de modelos es trabajo arquitectónico. No todo requiere GPT-4o. ¿Extracción simple de datos? Enrutamos a Llama 3 8B o Claude 3 Haiku, más barato. ¿Razonamiento lógico complejo? Entonces sí, usamos un modelo potente. Como en una empresa: la recepción no pasa la pregunta al director general.

He observado cómo lo hacen los equipos avanzados. OpenClaw en dispositivos móviles casi controla los tokens. En lugar de generación libre, hace que el modelo rellene un esquema JSON. Parece restrictivo, pero en realidad ahorra tráfico. Hermes Agent va por otro camino — memoria dinámica. Guarda las últimas 3–5 conversaciones, las resume con un modelo ligero y las almacena en una base vectorial. No es un acto de magia — es control quirúrgico del contexto.

Ahora lo más importante — es un cambio de mentalidad. Antes se consideraba el token como un bien de consumo. Ves un descuento — lo añades al carrito. Conectabas ciegamente LLM a todo, incluso para que la IA creara menús de comedor. La factura a fin de mes — shock.

Ahora hay que pasar a una mentalidad de inversión. Cada token es una inversión. Nos preguntamos: ¿qué me ha dado esto? ¿Aumentó la tasa de cierre de tickets? ¿Redujo el tiempo de corrección de errores? ¿O solo es entretenimiento? Si una función basada en reglas cuesta 10 centavos, y un LLM requiere un dólar por token, pero aumenta la conversión en un 2%, entonces sin dudarlo, lo eliminamos.

Pasamos de soluciones «grandes y completas» a «pequeñas y perfeccionadas» en golpes precisos. Cuando un negocio pregunta: «¿Puede la IA leer 100 mil informes?», yo pregunto: «¿Cubrirán los ingresos unos pocos millones de tokens?» Hagamos cálculos. Ahorramos. Contamos tokens como un dueño de tienda de productos.

Suena lejos de ser tecnológico, más bien agrícola. Pero justo eso es la etapa de madurez de la industria de la IA. La era de subsidios ilimitados ha terminado. Quedan quienes entienden la arquitectura, saben cómo optimizar en dispositivos móviles y miran los números de tokens con frialdad. Cuando la marea baje, se verá quién va desnudo. Esta vez serán las empresas que no aprendieron a ahorrar. Quien exprima cada gota como oro, sobrevivirá.