Les échecs dans le raisonnement des modèles de langage émergent à travers des processus distincts qui laissent des signatures identifiables au niveau des tokens. Ces échecs sont caractérisés comme "échec engagé" ou "incertitude persistante", et la compréhension de ces signatures aide à distinguer les réalisations échouées des réussies dans diverses configurations.
Les hallucinations de l'IA diffèrent des bugs logiciels traditionnels car les systèmes d'IA génèrent des informations incorrectes avec assurance, semblant tout à fait plausibles, contrairement aux défaillances logicielles évidentes. Cette confiance rend les échecs de l'IA plus difficiles à détecter et intrinsèquement plus dangereux, car les humains ont tendance à faire confiance aux réponses fluides et structurées.
L'article analyse pourquoi la plupart des agents IA autonomes échouent dès leur première semaine, attribuant ces échecs à des coûts d'inférence excessifs et à une mauvaise compréhension de l'économie des tokens. Il souligne que les agents doivent générer plus de valeur que leurs coûts de calcul pour survivre au-delà du financement initial, mettant en évidence des leçons économiques cruciales pour les constructeurs.