Un bucle de agente no cuesta una llamada multiplicada por el número de turnos, y la diferencia no es pequeña. La API no tiene estado, así que cada turno reenvía todo lo anterior: el prompt de sistema, las definiciones de herramienta y todos los mensajes y resultados hasta ahora. El turno ocho envía todo lo que enviaron los turnos uno a siete, más lo que produjeron. Eso hace que el coste crezca con el cuadrado de la conversación y no con su longitud, y por eso los bucles que parecen baratos en pruebas no lo son. Esto recorre el bucle turno a turno, aplica el caché donde el caché aplica y dice qué turno desborda la ventana.
Características
Cada turno tarificado por separado, con el historial que reenvía
Caché aplicado solo al prefijo fijo, que es el modelo honesto
El mismo bucle tarificado sin caché, para comparar
Cuenta los tokens reenviados solo porque la API no tiene estado
Dice qué turno desborda la ventana de contexto
Precio por lotes como interruptor
Un gráfico de barras por turno, para ver el crecimiento
Tarifas con la fecha en que se comprobaron
Cómo usar Coste de un bucle de agente
Elige un modelo y cuántos turnos esperas
Introduce el prefijo fijo y los tamaños de salida y de resultado
Pon una tasa de acierto de caché realista
Lee el total, el ahorro y dónde desborda
Ejemplo
Entrada
8 turns, 4K prefix, 1.5K tool results
Salida
Turn 8 sends 19.4K tokens — turn 1 sent 4.5K
El crecimiento es el historial, no el trabajo.
Errores comunes y solución de problemas
Mi factura real es mayor que esto. — Suelen ser los resultados de herramienta: son la entrada más grande y menos previsible. Prueba con el tamaño de tu peor resultado en vez de uno típico.
El ahorro por caché parece demasiado bueno. — Solo se trata el prefijo fijo como cacheable, que ya es la suposición conservadora. Si tu prefijo cambia entre turnos, baja la tasa de acierto.
Dice que la ventana desborda. — La conversación supera al modelo antes de que el bucle termine. Compactar, editar el contexto o reducir los resultados de herramienta son las soluciones, por ese orden de efecto.
¿Cómo sé mis tamaños en tokens? — Mide un turno real con el contador de tokens y usa esas cifras. La forma de la respuesta importa más que la precisión.
Preguntas frecuentes
¿Por qué cuesta más un bucle de agente que el mismo trabajo en una llamada?
Porque la conversación entera se reenvía cada turno. Diez turnos no equivalen a diez llamadas de entrada: son la suma de una conversación creciente, y por eso la curva de coste se dobla hacia arriba.
¿Qué encarece más?
El tamaño de los resultados de herramienta, normalmente con diferencia. Los tokens de salida se pagan más caros por token pero hay muchos menos; una herramienta locuaz que devuelve una página de JSON cada turno es lo que convierte un bucle barato en uno caro.
¿Es realista una tasa de acierto del 90 %?
Para un prompt de sistema estable y una lista de herramientas fija, sí. Si tu prefijo contiene algo por petición, está más cerca de cero, y el planificador de caché es la herramienta para averiguar cuál tienes.
¿Debería usar precio por lotes?
Solo si el trabajo no es interactivo. Reduce la factura a la mitad y renuncia a poder reaccionar, lo que encaja con evaluaciones y procesos masivos más que con un agente al que alguien está esperando.
¿Qué precisión tiene esto?
Es un modelo, no un presupuesto. Acierta la forma —el crecimiento, el efecto del caché, el punto de desbordamiento— a partir de las cifras que aportes. Las tarifas publicadas cambian, así que se muestra la fecha en que se comprobaron.
Herramientas relacionadas
Planificador de caché — Ordena los bloques para que el prefijo cacheable sea lo más largo posible.
Planificador de contexto — Reparte la ventana entre prompt, herramientas, historial y respuesta.
Constructor de lotes — Convierte una tabla de filas en un trabajo por lotes, con ids únicos.