Anthropic Message Batching: When 50% Off Is Worth the Latency

A API Anthropic Message Batches foi criada para processamento de grandes conjuntos de avaliações, permitindo até 100.000 solicitações em um único POST com um custo 50% menor do que a taxa padrão de tokens. A principal desvantagem é a latência, mas as batches geralmente são concluídas em menos de uma hora, sendo ideal para tarefas não urgentes.