API Calls

2 items

RESEARCHDEV.to AI·il y a 17j

We measured what 10 tools 1,000 calls/day actually costs in AI agents

L'article présente des données sur les coûts cachés des agents d'IA utilisant des outils, en particulier le surcoût en tokens dû à l'envoi des définitions d'outils à chaque appel d'API. Il démontre que 10 outils peuvent ajouter 800 à 1200 tokens par appel, basé sur une simulation de 1 000 sessions d'agent.

LLM tools token costs API Calls AI development

DOCDEV.to AI·il y a 8j

Why Your AI Agent Sent That Email Twice: An Idempotency Field Guide

L'article explique que les effets secondaires dupliqués dans les systèmes d'agents d'IA (comme les remboursements ou les e-mails multiples) sont souvent causés par des tentatives agressives sur des appels API non idempotents, et non par des défaillances du modèle. Il souligne l'importance des clés d'idempotence pour prévenir ces problèmes de production courants.

idempotency Retry Mechanisms API Calls Production Failures