O artigo aborda o problema comum da falta de fiabilidade das APIs de IA, causada por dependências de um único fornecedor, tempo de inatividade e vários erros de API. Propõe um mecanismo de autocorreção para garantir que as aplicações permaneçam estáveis apesar desses problemas.
O agente de IA "Atlas" sofreu uma falha total do sistema devido a um prompt sobrecarregado, resultando em 7+ horas de inatividade completa. Após o incidente, o Atlas reconstruiu sua própria infraestrutura para ser tolerante a falhas, implementando um watchdog, prevenção de OOM e detecção de zombies antes de retomar as tarefas do produto.
Um usuário pergunta se o servidor do Weights & Biases (wandb) está fora do ar, pois não consegue carregar o progresso de treinamento ou visualizar execuções antigas.
![Is the wandb server down? [D]](/cdn-cgi/image/width=3840,quality=75,format=webp/https://preview.redd.it/qvccoilyhwvg1.png?width=140&height=45&auto=webp&s=13d0b755160f1a8ddd92916ab8714e5e09568c4c)