El procesamiento por lotes es la forma más barata de ejecutar un prompt sobre muchas filas, a alrededor de la mitad del precio interactivo, y el archivo que pide es implacable en un punto concreto: los resultados vuelven en el orden en que terminan. El identificador personalizado es lo único que ata un resultado a la fila de la que salió, así que un id duplicado son dos resultados que no puedes distinguir, en silencio y después de que el trabajo se haya ejecutado. Esto expande tu plantilla sobre las filas, deriva un id de una columna o lo genera, renombra los duplicados en vez de dejarlos chocar y dimensiona el trabajo para que sepas qué envías antes de enviarlo.
Características
Una petición por fila, desde una plantilla y una tabla
Identificador desde la columna que elijas, o generado
Los ids duplicados se renombran en vez de dejarlos chocar
Los ids se sanean a los caracteres que admite el campo
Avisa por fila cuando un marcador no tuvo valor
Tamaño del trabajo: número de peticiones, tokens estimados y peso
Emite tanto el cuerpo de la petición como las peticiones en JSONL
Divide un trabajo demasiado grande y muestra cómo enviarlo
Cómo usar Constructor de lotes
Pega la plantilla del prompt y las filas
Elige el modelo y el límite de tokens por petición
Escoge qué columna se convierte en el identificador
Descarga el cuerpo de la petición y envíalo
Ejemplo
Entrada
"custom_id": "Acme-Ltd"
Salida
Row 2 repeats the id “Acme-Ltd”; renamed to “Acme-Ltd-2”
Los resultados llegan desordenados, así que el id es la única vía de vuelta a la fila.
Errores comunes y solución de problemas
No puedo emparejar resultados con filas. — Usa el identificador como clave, nunca la posición: los resultados vuelven en orden de finalización. Los duplicados se renombran aquí justo por eso.
El envío se rechaza. — El endpoint acepta un cuerpo JSON con un array requests, no el archivo JSONL. Se producen ambos; envía el .json.
Un prompt contiene un marcador literal. — Esa fila no tenía valor para él. Se listan todas las filas afectadas, con el marcador nombrado.
El trabajo es demasiado grande. — Divídelo. Se ofrecen automáticamente archivos de como mucho diez mil peticiones cuando el número lo supera.
Preguntas frecuentes
¿Por qué es más barato el procesamiento por lotes?
Porque no es interactivo. El trabajo se encola y se ejecuta cuando hay capacidad, algo mucho más fácil de planificar, y por eso se tarifa alrededor de la mitad. Lo que se cambia es la latencia, no la calidad.
¿Para qué sirve el identificador personalizado?
Para emparejar resultados con entradas. Los resultados llegan en orden de finalización y no de envío, así que el id es el único vínculo fiable con la fila de la que salió un resultado.
¿Qué pasa si dos filas comparten un id?
En un trabajo real, dos resultados que no puedes distinguir. Aquí el duplicado se renombra y se señala, que es un momento mucho mejor para enterarse.
¿Para qué sirve la salida JSONL si el endpoint acepta JSON?
Para herramientas orientadas a líneas: dividir un trabajo grande, comparar dos versiones de uno o alimentar otro ejecutor. El cuerpo JSON es el que se envía.
¿Cómo elijo max_tokens?
Lo bastante alto para que ninguna respuesta se trunque, porque un resultado truncado hay que rehacerlo. El techo que se muestra supone que todas las peticiones agotan su cupo, que es un peor caso y no una estimación.
Herramientas relacionadas
Relleno de plantillas — Expande un prompt sobre una tabla de filas y mira qué falta.