バッチ処理は、一つのプロンプトを多数の行に対して回す最も安い方法で、対話的な価格のおよそ半分です。そして要求するファイルは、ある一点だけ容赦がありません。結果は終わった順に返ってきます。独自 ID は、結果を元の行に結びつける唯一の手がかりです。だから ID の重複は、見分けのつかない二つの結果を意味します。しかも黙って、ジョブが走ったあとに。ここではテンプレートを行に展開し、列から ID を取るか生成し、重複は衝突させずに改名し、何を送るのか分かるようジョブの規模を測ります。
機能
テンプレートと表から、一行につき一リクエスト
選んだ列から独自 ID を取得、あるいは生成
重複 ID は衝突させず改名
ID を項目が許す文字だけに整形
プレースホルダーに値がなかった行を個別に警告
ジョブの規模:件数・推定トークン・ファイルサイズ
リクエスト本体と、同じ内容の JSONL の両方を出力
大きすぎるジョブを分割し、送り方も表示
バッチリクエストビルダー の使い方
プロンプトのテンプレートと行を貼ります
モデルと一件あたりのトークン上限を選びます
どの列を独自 ID にするか決めます
リクエスト本体を保存して送信します
例
入力
"custom_id": "Acme-Ltd"
出力
Row 2 repeats the id “Acme-Ltd”; renamed to “Acme-Ltd-2”
結果は順不同で返るので、ID だけが行への帰り道です。
よくあるエラーとトラブルシューティング
結果と行を対応づけられない。 — 位置ではなく独自 ID で照合してください。結果は完了順に返ります。重複をここで改名しているのは、まさにこのためです。