Numerical Instability and Chaos: Quantifying the Unpredictability of Large Language Models

Cet article analyse rigoureusement comment l'instabilité numérique due à la précision finie entraîne l'imprévisibilité des LLM, un problème de fiabilité critique dans les flux de travail agentiques. Il détaille la propagation des erreurs d'arrondi, identifiant un « effet avalanche » chaotique dans les premières couches et des comportements chaotiques universels dépendants de l'échelle.