プロンプトキャッシュ設計

キャッシュできる前置きが最長になるよう、リクエストのブロックを並べ替えます。

ここで入れるのはブロックの大きさだけで、中身ではありません。送信されるものはありません。

エージェントループの費用を出す

プロンプトキャッシュ設計 について

キャッシュは前置きの一致です。この一点がすべてを決めます。最初に変わったバイトが、それ以降のすべてを無効にします。つまり、揺らぐ一行——タイムスタンプ、リクエスト ID、ユーザーの質問——を二万五千トークンの安定した内容の前に置けば、その安定した内容は一つもキャッシュされません。直し方はいつも同じ形です。安定を先に、揺らぐものを後に。分かりにくいのは、間違えたときの費用のほうです。だからここでは数字を出します。リクエストのブロックと、それぞれがどのくらいの頻度で変わるかを入れると、並べ替え、前置きを測り、あなたが出すリクエスト数にわたって差額を計算します。

機能

• 前置きが最長になるようブロックを並べ替え
• 揺らぐブロックの後ろで足止めされている安定ブロックを名指し
• キャッシュできる前置きと、毎回支払う部分を測定
• 前置きが最小値を下回り、黙ってキャッシュされない場合に警告
• 一連のリクエストにわたる差額を計算
• ときどき変わるブロックを指摘 — その後ろがすべて無効になります
• モデルごとのキャッシュ読み出し料金と、その確認日
• ブロックの大きさは編集可能で、自分のリクエストに合わせられます

プロンプトキャッシュ設計 の使い方

1. リクエストのブロックと大きさを並べます
2. それぞれがどのくらいの頻度で変わるかを指定します
3. 推奨される順序と節約額を読みます
4. キャッシュの区切りを安定した前置きの末尾へ移します

例

入力

User question (300) sent first

出力

29,500 stable tokens cannot be cached

先頭の揺らぐブロックが、その後ろすべてを無効にします。

よくあるエラーとトラブルシューティング

• 命中率がゼロだ。 — 揺らぐ何かが前置きの中にあります。タイムスタンプ、リクエスト ID、順序の安定しないツール一覧。どれか一つでそうなります。
• 前置きが最小値を下回る。 — 短い前置きはそもそもキャッシュされず、そのことは知らされません。前置きを大きくするか、キャッシュは効かないと受け入れるかです。
• キャッシュが効いたり効かなかったりする。 — たいていは、ときどき変わるブロックが前のほうにあります。変わるたびにその後ろがすべて無効になるので、ときどきの変更はときどきの全額請求です。
• 並べ替えると意味が変わってしまう。 — それは本物の兼ね合いです。動かせないものは制約です。ツールは費用を示すので、なんとなくではなく分かったうえで決められます。

よくある質問

プロンプトキャッシュは実際どう働きますか。

リクエストはキャッシュ済みの内容と前置きで突き合わされます。最初の相違までは割安でキャッシュから供給され、それ以降は全額請求です。だから順序がすべてなのです。

何が黙ってキャッシュを無効にしますか。

早い位置でバイトを変えるものすべてです。システムプロンプト内のタイムスタンプ、リクエスト ID、順序の定まらないマップから作ったツール一覧、利用者ごとの項目。どれもエラーを出さず、命中率が下がるだけです。

なぜ前置きに最小値があるのですか。

モデルごとに決まった大きさを下回ると、キャッシュはまったく適用されません。黙って効かないので、キャッシュされていると思っていた小さなシステムプロンプトが、実は一度もされていなかったということも起きます。

キャッシュの区切りはどこに置きますか。

最後の安定ブロックの末尾です。その前は再利用され、その後ろは毎回新規になります。ここでの並べ替えが作るのは、まさにその切れ目です。

キャッシュは常に得ですか。

大きな前置きが実際に再利用されるならそうです。読み出し料金は入力料金のごく一部です。安定した前置きがそもそもないリクエストを無理にねじ曲げる価値はありません。ここでのエラーはそれを伝えています。

関連ツール

• エージェントループ費用 — 再送される履歴とキャッシュを含めてターンごとに費用を見積もります。
• コンテキストウィンドウ設計 — ウィンドウをプロンプト、ツール、履歴、応答に配分します。
• プロジェクト指示ビルダー — 毎リクエストの費用に見合う CLAUDE.md を書きます。
• プロンプト差分 — 二つの版を単語単位で比較し、トークン差も表示します。
• テキスト分割 — 実際の切れ目で分かれる重なり付きのチャンクに文書を分けます。
• バッチリクエストビルダー — 行の表をバッチ処理に変換し、各リクエストに一意の ID を付けます。

AI・エージェントの他のツール

• スキルビルダー — SKILL.md を作成し、frontmatter を入力しながら検証します。
• スキルリンター — SKILL.md を貼り付け、タスクに一致しない理由を確かめます。
• サブエージェントビルダー — ツールとモデルを指定してサブエージェント定義ファイルを作ります。
• スラッシュコマンドビルダー — 引数とツール許可リストを備えた独自コマンドを作ります。
• プロジェクト指示ビルダー — 毎リクエストの費用に見合う CLAUDE.md を書きます。
• プラグインマニフェスト — plugin.json を生成し、前提となるフォルダ構成を確認します。
• フックビルダー — settings.json のフックを作り、発火しないマッチャーを見つけます。
• 権限ルールテスター — 許可・確認・拒否のルールを実際のコマンドで試します。
• MCP サーバー設定 — stdio、HTTP、SSE 向けの MCP サーバー設定を生成します。
• MCP ツールスキーマ — ツールを定義し、strict モードを検証した JSON Schema を得ます。
• ツールスキーマ検証 — 定義を貼り付け、拒否される理由や誤呼び出しの原因を調べます。
• プロンプトテンプレート展開 — 一つのプロンプトを行の表に展開し、欠けている値を確認します。
• システムプロンプトリンター — 矛盾、効かない指示、未置換のプレースホルダーを見つけます。
• プロンプト差分 — 二つの版を単語単位で比較し、トークン差も表示します。
• Few-shot 例ビルダー — 入出力の組をタグ付き、JSON、会話形式の例に変換します。
• XML プロンプト構成 — 内容が外に漏れないタグでプロンプトの各節を囲みます。
• JSONL ビューア・検証 — JSONL ファイルを行単位で読み、絞り込み、検証します。
• 会話ログ変換 — メッセージ配列を読みやすい記録に変換し、元にも戻します。
• 学習データ検証 — 学習を途中で止めるエラーがないか chat 形式の JSONL を調べます。
• SSE ストリームビューア — 生のストリーミング応答から本文、ツール呼び出し、使用量を取り出します。
• コンテキストウィンドウ設計 — ウィンドウをプロンプト、ツール、履歴、応答に配分します。
• テキスト分割 — 実際の切れ目で分かれる重なり付きのチャンクに文書を分けます。
• エージェントループ費用 — 再送される履歴とキャッシュを含めてターンごとに費用を見積もります。
• バッチリクエストビルダー — 行の表をバッチ処理に変換し、各リクエストに一意の ID を付けます。

AI・エージェントのツールをすべて見る · すべてのツール