ArrayKit

微调数据集校验

检查对话数据集,找出那些会让训练跑到一半才失败的错误。

微调数据集校验

检查对话数据集,找出那些会让训练跑到一半才失败的错误。

训练数据在浏览器里读取。不会上传,关闭页面后也不留存。

逐条翻看这个文件

关于 微调数据集校验

训练会在第一条畸形记录上失败,而且通常等你回了家才找到它。事先值得做的检查都不起眼、也很快:每条记录是一个带 messages 数组的对象、每条消息都有角色和内容、对话从该开始的地方开始,以及——最多人漏掉的一条——以助手消息结尾,因为那一轮才是这条记录要教的东西。连着两条用户消息也会被标出来,因为那通常意味着两条记录被合并了。除了错误之外,整份文件的规模分布会在"放不下的长尾"变成训练中断的理由之前,先把它显出来。

功能特性

  • 每条结论都落到它出自的那一行
  • 检查每条记录能否解析,并越过解析失败的行继续
  • 角色与已知集合对照,异常的会被标出
  • 识别没有以助手消息结尾的记录
  • 识别同一方连着两轮
  • 识别空内容——能通过校验,却什么都没教
  • 规模分布:中位数、第 90 百分位与最大值
  • 可配置的 messages 键,适配叫法不同的格式

如何使用 微调数据集校验

  1. 拖入 .jsonl 数据集或粘贴内容
  2. 若格式不同,调整 messages 键
  3. 先修错误,再看警告
  4. 把规模分布与你的上下文上限对照

示例

输入

line 3: two user messages in a row

输出

Records: 3 · Errors: 0 · Warnings: 1

通常说明两条记录被意外合并了。

常见错误与故障排除

  • 有记录不是以助手消息结尾。 — 那条记录没有可教的东西:最后的助手轮次才是目标。所以这是错误而不是警告。
  • 找不到 messages 数组。 — 把 messages 键改成你的格式所用的名字。conversation 和 turns 都很常见。
  • 连着两条用户消息被标出来。 — 通常是两条记录被误拼在一起。如果重复的轮次是有意的,这只是警告而不是错误。
  • 有些记录特别大。 — 百分位显示了长尾。超过上下文上限的都会失败,在这里发现比在训练途中发现便宜得多。

常见问题

它期待什么格式?
对话格式:一行一个 JSON 对象,各自带一个由角色与内容成对组成的 messages 数组。键名可配置,因为各家约定不同,但里面的形状到哪儿都一样。
为什么记录必须以助手消息结尾?
因为那一轮才是这条记录要教的。以用户消息结尾的对话有问无答,没有可学的东西。
token 计数准确吗?
不准,是基于字符数的估算。它用来发现那个放不下的异常值,这不需要精度:精确数字由供应方的分词器给出。
结果干净就代表数据好吗?
只代表文件格式规整。这些示例教的对不对,是关于你数据的问题,任何校验器都不会回答。
我的数据集会被上传吗?
不会。训练数据通常是团队里最敏感的文件,而这一切都在浏览器里运行。

相关工具

更多AI 与智能体工具

查看全部AI 与智能体工具 · 全部工具