ArrayKit

Estimador de coste de bucle de agente

Calcula el coste de un bucle turno a turno, con el historial que reenvía y el caché que consigue.

Estimador de coste de bucle de agente

Calcula el coste de un bucle turno a turno, con el historial que reenvía y el caché que consigue.

Aquí solo se introducen tamaños y tarifas, nunca prompts ni resultados. Nada se sube.

Averigua por qué falla tu caché

Acerca de Coste de un bucle de agente

Un bucle de agente no cuesta una llamada multiplicada por el número de turnos, y la diferencia no es pequeña. La API no tiene estado, así que cada turno reenvía todo lo anterior: el prompt de sistema, las definiciones de herramienta y todos los mensajes y resultados hasta ahora. El turno ocho envía todo lo que enviaron los turnos uno a siete, más lo que produjeron. Eso hace que el coste crezca con el cuadrado de la conversación y no con su longitud, y por eso los bucles que parecen baratos en pruebas no lo son. Esto recorre el bucle turno a turno, aplica el caché donde el caché aplica y dice qué turno desborda la ventana.

Características

  • Cada turno tarificado por separado, con el historial que reenvía
  • Caché aplicado solo al prefijo fijo, que es el modelo honesto
  • El mismo bucle tarificado sin caché, para comparar
  • Cuenta los tokens reenviados solo porque la API no tiene estado
  • Dice qué turno desborda la ventana de contexto
  • Precio por lotes como interruptor
  • Un gráfico de barras por turno, para ver el crecimiento
  • Tarifas con la fecha en que se comprobaron

Cómo usar Coste de un bucle de agente

  1. Elige un modelo y cuántos turnos esperas
  2. Introduce el prefijo fijo y los tamaños de salida y de resultado
  3. Pon una tasa de acierto de caché realista
  4. Lee el total, el ahorro y dónde desborda

Ejemplo

Entrada

8 turns, 4K prefix, 1.5K tool results

Salida

Turn 8 sends 19.4K tokens — turn 1 sent 4.5K

El crecimiento es el historial, no el trabajo.

Errores comunes y solución de problemas

  • Mi factura real es mayor que esto. — Suelen ser los resultados de herramienta: son la entrada más grande y menos previsible. Prueba con el tamaño de tu peor resultado en vez de uno típico.
  • El ahorro por caché parece demasiado bueno. — Solo se trata el prefijo fijo como cacheable, que ya es la suposición conservadora. Si tu prefijo cambia entre turnos, baja la tasa de acierto.
  • Dice que la ventana desborda. — La conversación supera al modelo antes de que el bucle termine. Compactar, editar el contexto o reducir los resultados de herramienta son las soluciones, por ese orden de efecto.
  • ¿Cómo sé mis tamaños en tokens? — Mide un turno real con el contador de tokens y usa esas cifras. La forma de la respuesta importa más que la precisión.

Preguntas frecuentes

¿Por qué cuesta más un bucle de agente que el mismo trabajo en una llamada?
Porque la conversación entera se reenvía cada turno. Diez turnos no equivalen a diez llamadas de entrada: son la suma de una conversación creciente, y por eso la curva de coste se dobla hacia arriba.
¿Qué encarece más?
El tamaño de los resultados de herramienta, normalmente con diferencia. Los tokens de salida se pagan más caros por token pero hay muchos menos; una herramienta locuaz que devuelve una página de JSON cada turno es lo que convierte un bucle barato en uno caro.
¿Es realista una tasa de acierto del 90 %?
Para un prompt de sistema estable y una lista de herramientas fija, sí. Si tu prefijo contiene algo por petición, está más cerca de cero, y el planificador de caché es la herramienta para averiguar cuál tienes.
¿Debería usar precio por lotes?
Solo si el trabajo no es interactivo. Reduce la factura a la mitad y renuncia a poder reaccionar, lo que encaja con evaluaciones y procesos masivos más que con un agente al que alguien está esperando.
¿Qué precisión tiene esto?
Es un modelo, no un presupuesto. Acierta la forma —el crecimiento, el efecto del caché, el punto de desbordamiento— a partir de las cifras que aportes. Las tarifas publicadas cambian, así que se muestra la fecha en que se comprobaron.

Herramientas relacionadas

Más herramientas de IA y agentes

Ver todas las herramientas de IA y agentes · Todas las herramientas