La primera factura de un proveedor de LLM suele ser una sorpresa agradable. La factura tres meses después del lanzamiento, cuando el tráfico ha crecido y el agente hace seis llamadas a herramientas por pregunta, a menudo no lo es. La buena noticia: la mayoría de las aplicaciones de IA que audito pueden recortar su gasto en modelos un 50–80% sin perder calidad, sobre todo con un puñado de cambios mecánicos. Esta guía cubre las palancas en el orden en que las aplico —primero las mejoras gratuitas, al final los compromisos de calidad— con cálculos de precios reales.
De dónde vienen realmente los costes de un LLM
Pagas por token, por separado la entrada y la salida. En un agente de IA suele dominar la entrada: cada petición vuelve a enviar el prompt de sistema, las definiciones de herramientas, los documentos recuperados y la conversación hasta el momento. Los tokens de salida cuestan más por token, pero hay menos.
Los precios de lista actuales de los modelos de Anthropic ilustran la diferencia (precios de Anthropic):
| Modelo | Entrada, $ por millón de tokens | Salida, $ por millón de tokens | Uso típico |
|---|---|---|---|
| Claude Fable 5.1 | 10,00 | 50,00 | El razonamiento más difícil y trabajo de agentes de largo recorrido |
| Claude Opus 5.5 | 4,00 | 20,00 | Agentes complejos, programación, análisis |
| Claude Sonnet 5.5 | 2,00 | 10,00 | Agentes del día a día, soporte, cargas empresariales |
| Claude Haiku 4.5 | 1,00 | 5,00 | Clasificación, extracción, routing de gran volumen |
Precios a septiembre de 2026; consulta la página de precios antes de presupuestar.
Antes de optimizar, mide. Registra input_tokens, output_tokens y los campos de caché de cada respuesta, agrupados por funcionalidad y ruta. No puedes recortar lo que no ves, y la ruta cara rara vez es la que sospecha el equipo.
Palanca 1: prompt caching (la mayor mejora gratuita)
La mayoría de las peticiones de una aplicación de IA comparten un prefijo largo e idéntico: el prompt de sistema, las definiciones de herramientas, documentos de políticas, ejemplos few-shot. El prompt caching permite al proveedor guardar ese prefijo y cobrar una fracción del precio cuando se reutiliza.
Con la API de Anthropic, escribir en caché cuesta 1,25 veces el precio base de entrada para la vida útil por defecto de 5 minutos (2 veces para la vida útil opcional de 1 hora), y leer de caché cuesta alrededor de 0,1 veces, menos en algunos modelos nuevos (Anthropic: prompt caching). Con una caché de 5 minutos, la segunda petición ya compensa.
Ejemplo. Un asistente de soporte envía un prefijo de 20.000 tokens (instrucciones, herramientas, extractos de políticas) en cada una de sus 100.000 peticiones mensuales con Claude Sonnet 5.5:
- Sin caché: 2.000 millones de tokens de entrada × 2 $ = 4.000 $ solo por el prefijo.
- Con caché y una tasa de aciertos alta: unos 2.000 millones de tokens leídos a 0,20 $ por millón = 400 $, más una pequeña cantidad de escrituras en caché.
Para que la caché funcione:
- Pon primero el contenido estable y al final el variable. Las herramientas, el prompt de sistema y los documentos van antes de la pregunta del usuario. Una marca de tiempo o un ID de usuario al principio del prompt de sistema rompe en silencio todos los aciertos de caché.
- Mantén un orden determinista. Serializa las listas de herramientas y el JSON en un orden fijo.
- Verifica. Si
cache_read_input_tokensse queda en cero en peticiones repetidas, algo de tu prefijo cambia en cada llamada.
response = client.messages.create(
model="claude-sonnet-5-5",
max_tokens=2000,
system=[{
"type": "text",
"text": STABLE_INSTRUCTIONS_AND_POLICIES, # identical on every request
"cache_control": {"type": "ephemeral"}, # cache everything up to here
}],
messages=history + [{"role": "user", "content": question}],
)
print(response.usage.cache_read_input_tokens, response.usage.input_tokens)
La caché combina de forma natural con la recuperación: mantén el conocimiento estable en el prefijo cacheado y envía solo los fragmentos recuperados en cada petición, como se describe en RAG para empresas.
Palanca 2: procesamiento por lotes para todo lo que pueda esperar
No todas las peticiones necesitan respuesta en dos segundos. La generación de informes nocturnos, la clasificación de documentos, las ejecuciones de evaluación, el enriquecimiento de datos y la traducción de catálogos pueden esperar minutos u horas. Las APIs por lotes procesan estas peticiones de forma asíncrona con un gran descuento: un 50% en la Message Batches API de Anthropic (Anthropic: batch processing).
Regla general: si ninguna persona está esperando el resultado, va en un lote. Los evals son un candidato perfecto; consulta cómo evaluar aplicaciones LLM.
Palanca 3: higiene de los tokens de entrada
- Recorta las definiciones de herramientas. Veinte herramientas con descripciones largas pueden costar miles de tokens por petición. Expón solo las herramientas relevantes para la ruta y mantén las descripciones precisas, no largas.
- Devuelve resultados de herramientas compactos. Una llamada a la API que devuelve un registro JSON de 200 campos cuando el modelo necesita cinco multiplica el coste de cada turno siguiente, porque el resultado se queda en la conversación.
- Recupera menos y ordena mejor. Enviar 40 fragmentos de documentos "por si acaso" es caro y a menudo baja la calidad. De cinco a ocho fragmentos bien ordenados suelen superar a 40.
- Gestiona las conversaciones largas. Resume o elimina los resultados de herramientas antiguos en lugar de reenviar para siempre un historial de 100 turnos.
Palanca 4: higiene de los tokens de salida
En la mayoría de los modelos, los tokens de salida cuestan cinco veces más que los de entrada. Pide lo que necesitas:
- Fija expectativas de longitud en el prompt ("responde en tres frases como máximo").
- Usa salidas estructuradas para las respuestas que consume una máquina en lugar de prosa que tu código tiene que analizar después.
- No pidas al modelo que repita la pregunta, que reformule el contexto ni que añada avisos genéricos.
Palanca 5: ajusta el esfuerzo y el razonamiento
Los modelos actuales piensan antes de responder, y los tokens de razonamiento se facturan como salida. Muchos modelos exponen un ajuste de esfuerzo que controla cuánto razonan. Las tareas difíciles —agentes de varios pasos, programación, análisis— se benefician de un esfuerzo alto; la clasificación, la extracción y el chat sencillo suelen funcionar igual de bien con esfuerzo bajo por una fracción del coste.
Ajusta el esfuerzo por ruta, mide la calidad con tu conjunto de evals y juzga el coste por tarea completada, no el coste por petición. Un ajuste más barato que necesita dos turnos más para terminar el trabajo no es más barato.
Palanca 6: elige y enruta los modelos de forma deliberada
El modelo más caro no siempre es el que mejor relación calidad-precio ofrece, y el más barato no siempre es el más barato por resultado.
- Adapta el modelo a la ruta. Un clasificador de gran volumen puede funcionar con un modelo pequeño mientras el agente complejo usa uno más potente.
- Prueba el modelo potente con menos esfuerzo antes de montar una cascada. Los modelos nuevos con esfuerzo bajo a menudo igualan a los antiguos con esfuerzo alto, y un solo modelo mantiene una sola caché.
- Usa un router solo cuando los datos lo respalden. Un modelo pequeño que clasifica las peticiones y envía las fáciles a un modelo más barato puede ahorrar dinero, pero cada modelo adicional añade latencia, una caché separada y otra cosa que evaluar.
Cada cambio de modelo necesita antes una ejecución de evals. Un modelo un 30% más barato que resuelve un 10% menos de casos de soporte puede salir más caro una vez contados los escalados a personas, como explico en agentes de IA para soporte: dónde funcionan y dónde no.
Palanca 7: barandillas contra el gasto desbocado
- Límites por usuario y por sesión de tokens y llamadas a herramientas.
- Un número máximo de iteraciones del agente por tarea.
- Alertas cuando el gasto diario se desvía de la tendencia.
- Claves de API o workspaces separados por producto, para que una funcionalidad no se coma el presupuesto de otra.
El orden en que aplico estas palancas
| Paso | Palanca | Ahorro típico | Riesgo para la calidad |
|---|---|---|---|
| 1 | Medir tokens por ruta | — | Ninguno |
| 2 | Prompt caching | 30–80% del coste de entrada | Ninguno |
| 3 | Lotes para el trabajo no interactivo | 50% en esas peticiones | Ninguno |
| 4 | Higiene de entrada y salida | 10–40% | Bajo |
| 5 | Ajuste del esfuerzo por ruta | 10–50% | Medir |
| 6 | Selección y routing de modelos | 20–70% | Medir con cuidado |
Una rutina mensual de revisión de costes
El control de costes funciona mejor como hábito que como proyecto puntual:
- Extrae el uso por ruta y modelo del último mes y compáralo con el anterior.
- Comprueba la tasa de aciertos de caché en cada ruta con un prefijo compartido largo; una caída repentina suele significar que alguien añadió una marca de tiempo o reordenó las herramientas.
- Mira el 1% de peticiones más caras. Ahí se esconden los bucles desbocados de agentes y los documentos sobredimensionados.
- Revisa el coste por tarea completada, no solo el gasto total, junto con las métricas de calidad de tus evals.
- Vuelve a probar la elección de modelo y esfuerzo cuando los proveedores lancen modelos nuevos; los precios y las capacidades cambian varias veces al año.
Guías relacionadas
El coste va de la mano de la elección de modelo (cómo elegir un LLM), del tamaño del contexto (context engineering) y de la cuestión del self-hosting (LLM self-hosted). Los límites de frecuencia y los fallbacks se tratan en fiabilidad de las APIs de LLM.
Preguntas frecuentes
¿La caché cambia las respuestas del modelo? No. Las peticiones con y sin caché producen resultados equivalentes; solo cambian la facturación y la latencia.
¿Cómo estimo los costes antes del lanzamiento? Cuenta los tokens de peticiones realistas con el endpoint de conteo de tokens del proveedor, multiplica por el volumen esperado y añade un 30–50% para reintentos, conversaciones más largas y crecimiento.
¿Es más barato alojar un modelo open source? A veces, con un volumen muy alto y estable. Incluye los costes de GPU, el tiempo de ingeniería y la diferencia de calidad en tu propio conjunto de evals antes de decidir.
¿Cuál es un coste realista por conversación de soporte? Va desde fracciones de céntimo en respuestas FAQ sencillas hasta decenas de céntimos en agentes de varios pasos con herramientas. Mide el tuyo, por ruta.
¿Deberíamos cachear también las definiciones de herramientas? Sí. Las herramientas forman parte del prefijo del prompt, así que una lista de herramientas estable y ordenada colocada antes del punto de corte de la caché se cachea junto con el prompt de sistema.
Fuentes
- Anthropic. Pricing.
- Anthropic. Prompt caching.
- Anthropic. Batch processing.
- Anthropic. Create strong empirical evaluations.
- OWASP GenAI Security Project. LLM10: Unbounded Consumption.