Ce contenu aborde les risques des agents sans surveillance, tels que les tempêtes de réessai et les dépenses non approuvées, et l'importance d'implémenter des stratégies robustes de réessai et de limitation de débit. Il souligne la nécessité d'un 'budget de réessai' et de preuves de limitation de débit dans les routes de production pour assurer la stabilité du système et le contrôle des ressources.
L'article explique que les effets secondaires dupliqués dans les systèmes d'agents d'IA (comme les remboursements ou les e-mails multiples) sont souvent causés par des tentatives agressives sur des appels API non idempotents, et non par des défaillances du modèle. Il souligne l'importance des clés d'idempotence pour prévenir ces problèmes de production courants.
Cet article explique comment un job de scraping distribué a gaspillé 240 $ à cause de "retry storms" sur des URL bloquées. Le problème vient du fait que les limites de réessayage sont réinitialisées lors de nouvelles exécutions, entraînant des centaines de requêtes inutiles et des dépassements de budget.