Anthropic Message Batching: When 50% Off Is Worth the Latency

La API Anthropic Message Batches está diseñada para procesar grandes conjuntos de evaluación, permitiendo hasta 100.000 solicitudes en una sola POST con una reducción del 50% en el costo en comparación con la tarifa de token estándar. La principal compensación es la latencia, pero los lotes suelen completarse en menos de una hora, lo que la hace ideal para tareas no urgentes.