エージェントループ費用見積
再送される履歴とキャッシュを織り込み、ループの費用をターンごとに出します。
ここで入れるのは大きさと料金だけで、プロンプトや結果ではありません。送信されるものはありません。
キャッシュが効かない理由を調べる
エージェントループ費用 について
エージェントループの費用は、一回の呼び出しにターン数を掛けたものではありません。その差は小さくありません。API は状態を持たないので、毎ターンそれ以前のすべてを再送します。システムプロンプト、ツール定義、そこまでのすべてのメッセージとツール結果。八ターン目は、一から七ターン目が送ったものすべてに、それらが生み出したものを加えて送ります。つまり費用は会話の長さではなく、その二乗で伸びます。試したときは安く見えたループがそうでない理由がここにあります。ここではループをターンごとにたどり、キャッシュが効く箇所に効かせ、どのターンでウィンドウを超えるかを示します。
機能
- 各ターンを、それが再送する履歴とともに個別に計算
- キャッシュは固定の前置きにだけ適用 — それが誠実な見方です
- 同じループをキャッシュなしでも計算し、比較できます
- 状態を持たないためだけに再送されるトークンを集計
- どのターンで文脈のウィンドウを超えるかを表示
- バッチ料金の切り替え
- ターンごとの棒グラフで伸びが見えます
- 確認日つきの料金
エージェントループ費用 の使い方
- モデルと想定するターン数を選びます
- 固定の前置き、出力、ツール結果の大きさを入れます
- 現実的なキャッシュ命中率を設定します
- 合計・節約額・超過地点を読みます
例
入力
8 turns, 4K prefix, 1.5K tool results
出力
Turn 8 sends 19.4K tokens — turn 1 sent 4.5K
伸びているのは仕事ではなく履歴です。
よくあるエラーとトラブルシューティング
- 実際の請求額のほうが高い。 — たいていツール結果です。最も大きく、最も読みにくい入力です。典型ではなく、いちばん悪い結果の大きさで試してください。
- キャッシュの節約額が良すぎる。 — キャッシュできるとみなすのは固定の前置きだけで、これはすでに控えめな仮定です。前置きがターン間で変わるなら命中率を下げてください。
- ウィンドウを超えると表示される。 — ループが終わる前に会話がモデルを追い越しています。圧縮、文脈の編集、ツール結果の縮小が対策で、効き目の順もそのとおりです。
- 自分のトークン数が分からない。 — 実際のターンをトークンカウンターで測り、その数字を使ってください。精度より、答えの形のほうが大事です。
よくある質問
- なぜ同じ仕事を一回で頼むより高いのですか。
- 会話全体が毎ターン再送されるからです。十ターンは入力十回分ではなく、膨らみ続ける会話の総和です。だから費用の曲線は上へ曲がります。
- 費用を最も押し上げるのは何ですか。
- たいていは断然、ツール結果の大きさです。出力トークンは単価こそ高いものの数がずっと少なく、毎ターン一ページ分の JSON を返す饒舌なツールこそが、安いループを高いループに変えます。
- 命中率 90% は現実的ですか。
- 安定したシステムプロンプトと固定のツール一覧ならそうです。前置きにリクエストごとの要素が入るならゼロに近くなります。どちらなのかはキャッシュ設計のツールで分かります。
- バッチ料金を使うべきですか。
- 対話的でない仕事のときだけです。請求は半分になり、途中で反応する余地を手放します。誰かが待っているエージェントではなく、評価や一括処理に向きます。
- どのくらい正確ですか。
- これは見積りであって見積書ではありません。あなたが入れた数字から、伸び方・キャッシュの効き・超過地点という形を正しく捉えます。公表料金は変わるので、確認日を並べて表示しています。
関連ツール
AI・エージェントの他のツール
AI・エージェントのツールをすべて見る · すべてのツール