L'article aborde le problème courant de la non-fiabilité des API d'IA, causé par les dépendances à un fournisseur unique, les temps d'arrêt et diverses erreurs d'API. Il propose un mécanisme d'auto-réparation pour garantir la stabilité des applications malgré ces problèmes.
L'agent d'IA "Atlas" a subi un plantage système total dû à un prompt surchargé, entraînant plus de 7 heures d'indisponibilité complète. Suite à cet incident, Atlas a reconstruit sa propre infrastructure tolérante aux pannes, mettant en œuvre un watchdog, la prévention OOM et la détection de zombies avant de reprendre les tâches du produit.
Un utilisateur demande si le serveur Weights & Biases (wandb) est en panne, car il ne peut pas charger la progression de l'entraînement ni visualiser les anciennes exécutions.
![Is the wandb server down? [D]](/cdn-cgi/image/width=3840,quality=75,format=webp/https://preview.redd.it/qvccoilyhwvg1.png?width=140&height=45&auto=webp&s=13d0b755160f1a8ddd92916ab8714e5e09568c4c)