Une boucle d'agent ne coûte pas un appel multiplié par le nombre de tours, et l'écart n'est pas petit. L'API est sans état : chaque tour renvoie tout ce qui précède — le prompt système, les définitions d'outils, et chaque message et résultat d'outil jusque-là. Le tour huit envoie tout ce qu'ont envoyé les tours un à sept, plus ce qu'ils ont produit. Le coût croît donc avec le carré de la conversation, non avec sa longueur, et c'est pourquoi des boucles qui paraissent bon marché à l'essai ne le sont pas. Ici la boucle est parcourue tour par tour, la mise en cache appliquée là où elle s'applique, et le tour qui fait déborder la fenêtre est nommé.
Fonctionnalités
Chaque tour chiffré séparément, avec l’historique qu’il renvoie
Cache appliqué au seul préfixe fixe — le modèle honnête
La même boucle chiffrée sans cache, pour comparaison
Compte les tokens renvoyés uniquement parce que l’API est sans état
Dit quel tour fait déborder la fenêtre de contexte
Tarif par lot en interrupteur
Un graphique à barres par tour, pour rendre la croissance visible
Tarifs avec leur date de vérification
Comment utiliser Coût d'une boucle d'agent
Choisissez un modèle et le nombre de tours attendu
Saisissez le préfixe fixe et les tailles de sortie et de résultat
Réglez un taux de succès de cache réaliste
Lisez le total, l’économie et le point de dépassement
Exemple
Entrée
8 turns, 4K prefix, 1.5K tool results
Sortie
Turn 8 sends 19.4K tokens — turn 1 sent 4.5K
La croissance, c’est l’historique, pas le travail.
Erreurs courantes et dépannage
Ma vraie facture est plus élevée. — Ce sont d’ordinaire les résultats d’outils : l’entrée la plus grosse et la moins prévisible. Essayez la taille de votre pire résultat plutôt qu’un résultat typique.
L’économie de cache paraît trop belle. — Seul le préfixe fixe est considéré cachable, ce qui est déjà l’hypothèse prudente. Si votre préfixe change entre les tours, baissez le taux.
Il dit que la fenêtre déborde. — La conversation dépasse le modèle avant la fin de la boucle. Compacter, éditer le contexte ou réduire les résultats d’outils sont les remèdes, dans cet ordre d’effet.
Comment connaître mes tailles en tokens ? — Mesurez un vrai tour avec le compteur de tokens et reprenez ces chiffres. La forme de la réponse compte plus que la précision.
Foire aux questions
Pourquoi une boucle coûte-t-elle plus que le même travail en un appel ?
Parce que toute la conversation est renvoyée à chaque tour. Dix tours ne valent pas dix appels d’entrée : c’est la somme d’une conversation qui grossit, d’où la courbe de coût qui s’infléchit vers le haut.
Qu’est-ce qui pèse le plus ?
La taille des résultats d’outils, en général de loin. Les tokens de sortie coûtent plus cher à l’unité mais sont bien moins nombreux ; un outil bavard qui rend une page de JSON par tour transforme une boucle bon marché en boucle coûteuse.
90 % de succès de cache, est-ce réaliste ?
Pour un prompt système stable et une liste d’outils fixe, oui. Si votre préfixe contient quoi que ce soit de propre à la requête, c’est plus proche de zéro — le planificateur de cache tranche.
Faut-il utiliser le tarif par lot ?
Seulement si le travail n’est pas interactif. Il divise la facture par deux et abandonne la possibilité de réagir, ce qui convient aux évaluations et aux traitements de masse.
Quelle est la précision ?
C’est un modèle, pas un devis. Il obtient la forme — la croissance, l’effet du cache, le point de dépassement — à partir de vos chiffres. Les tarifs publiés changent, d’où la date affichée.
Outils associés
Planificateur de cache — Ordonnez les blocs pour que le préfixe cachable soit le plus long possible.