ArrayKit

批量请求构建器

把一张表变成批处理任务,每条请求都带着经得起乱序的 ID。

批量请求构建器

把一张表变成批处理任务,每条请求都带着经得起乱序的 ID。

模板和数据行——通常是真实的客户数据——都在浏览器里展开,绝不上传。

估算这个任务要花多少钱

关于 批量请求构建器

批处理是把一条提示词跑在大量行上最便宜的办法,大约是交互价格的一半,而它要的文件只在一个地方毫不通融:结果按完成的先后返回。自定义 ID 是把一个结果和它来自的那一行连起来的唯一线索,所以 ID 重复就意味着两个你分不开的结果——而且是无声地,在任务已经跑完之后。这里会把模板在各行上展开,从某一列取 ID 或自动生成,把重复的改名而不是让它们撞在一起,并量出任务规模,好让你在提交之前知道自己在提交什么。

功能特性

  • 一行一条请求,来自模板与表格
  • 自定义 ID 取自你选的列,或自动生成
  • 重复的 ID 会被改名,而不是任其相撞
  • ID 会被清理成该字段允许的字符
  • 占位符没有取到值时按行发出警告
  • 任务规模:请求数、估算 token 与文件大小
  • 同时输出请求体和同样内容的 JSONL
  • 过大的任务会被拆分,并给出提交方式

如何使用 批量请求构建器

  1. 贴上提示词模板和数据行
  2. 选择模型和每条请求的 token 上限
  3. 选定哪一列作为自定义 ID
  4. 下载请求体并提交

示例

输入

"custom_id": "Acme-Ltd"

输出

Row 2 repeats the id “Acme-Ltd”; renamed to “Acme-Ltd-2”

结果是乱序回来的,ID 是回到那一行的唯一通路。

常见错误与故障排除

  • 我没法把结果和行对上。 — 请以自定义 ID 为键,绝不要用位置:结果按完成顺序返回。这里之所以给重复的改名,正是为此。
  • 提交被拒绝了。 — 这个端点接收的是带 requests 数组的 JSON 请求体,而不是 JSONL 文件。两者都会输出;请提交 .json 那份。
  • 某条提示词里留着字面占位符。 — 那一行没有对应的值。所有受影响的行都会列出,并点出占位符的名字。
  • 任务太大了。 — 拆开。数量超过之后,会自动提供每份最多一万条请求的文件。

常见问题

批处理为什么更便宜?
因为它不是交互式的。任务进入队列,等有容量时才跑,这在调度上容易得多,所以价格大约减半。你换出去的是延迟,不是质量。
自定义 ID 是干什么用的?
用来把结果和输入对上。结果按完成顺序而不是提交顺序返回,所以 ID 是通往来源行的唯一可靠联系。
两行用了同一个 ID 会怎样?
在真实任务里,就是两个你分不开的结果。这里会把重复的改名并标出来,这个知道的时机要好得多。
端点既然收 JSON,JSONL 输出有什么用?
给按行处理的工具用:拆分大任务、比较两个版本,或喂给另一个执行器。真正提交的是 JSON 请求体。
max_tokens 该怎么定?
高到没有回复会被截断,因为被截断的结果得重做。显示的上限假设每条请求都用满配额,那是最坏情况而不是估计值。

相关工具

更多AI 与智能体工具

查看全部AI 与智能体工具 · 全部工具