微调数据集校验
检查对话数据集,找出那些会让训练跑到一半才失败的错误。
训练数据在浏览器里读取。不会上传,关闭页面后也不留存。
逐条翻看这个文件
关于 微调数据集校验
训练会在第一条畸形记录上失败,而且通常等你回了家才找到它。事先值得做的检查都不起眼、也很快:每条记录是一个带 messages 数组的对象、每条消息都有角色和内容、对话从该开始的地方开始,以及——最多人漏掉的一条——以助手消息结尾,因为那一轮才是这条记录要教的东西。连着两条用户消息也会被标出来,因为那通常意味着两条记录被合并了。除了错误之外,整份文件的规模分布会在"放不下的长尾"变成训练中断的理由之前,先把它显出来。
功能特性
- 每条结论都落到它出自的那一行
- 检查每条记录能否解析,并越过解析失败的行继续
- 角色与已知集合对照,异常的会被标出
- 识别没有以助手消息结尾的记录
- 识别同一方连着两轮
- 识别空内容——能通过校验,却什么都没教
- 规模分布:中位数、第 90 百分位与最大值
- 可配置的 messages 键,适配叫法不同的格式
如何使用 微调数据集校验
- 拖入 .jsonl 数据集或粘贴内容
- 若格式不同,调整 messages 键
- 先修错误,再看警告
- 把规模分布与你的上下文上限对照
示例
输入
line 3: two user messages in a row
输出
Records: 3 · Errors: 0 · Warnings: 1
通常说明两条记录被意外合并了。
常见错误与故障排除
- 有记录不是以助手消息结尾。 — 那条记录没有可教的东西:最后的助手轮次才是目标。所以这是错误而不是警告。
- 找不到 messages 数组。 — 把 messages 键改成你的格式所用的名字。conversation 和 turns 都很常见。
- 连着两条用户消息被标出来。 — 通常是两条记录被误拼在一起。如果重复的轮次是有意的,这只是警告而不是错误。
- 有些记录特别大。 — 百分位显示了长尾。超过上下文上限的都会失败,在这里发现比在训练途中发现便宜得多。
常见问题
- 它期待什么格式?
- 对话格式:一行一个 JSON 对象,各自带一个由角色与内容成对组成的 messages 数组。键名可配置,因为各家约定不同,但里面的形状到哪儿都一样。
- 为什么记录必须以助手消息结尾?
- 因为那一轮才是这条记录要教的。以用户消息结尾的对话有问无答,没有可学的东西。
- token 计数准确吗?
- 不准,是基于字符数的估算。它用来发现那个放不下的异常值,这不需要精度:精确数字由供应方的分词器给出。
- 结果干净就代表数据好吗?
- 只代表文件格式规整。这些示例教的对不对,是关于你数据的问题,任何校验器都不会回答。
- 我的数据集会被上传吗?
- 不会。训练数据通常是团队里最敏感的文件,而这一切都在浏览器里运行。
相关工具
更多AI 与智能体工具
查看全部AI 与智能体工具 · 全部工具