L'auteur exprime sa surprise et sa frustration face à l'augmentation drastique et soutenue des prix des GPU serveur (H100/H200/B200) sur des plateformes comme Vast et Mithril, atteignant plus de 1 000 $ l'heure. Il estime que cela est insoutenable pour les universitaires et les startups, et entrave la finalisation de ses projets, tel un pipeline BitNet pour la communauté localLlama.
O texto argumenta que a narrativa de "risco de segurança" da Anthropic para seu modelo Claude Mythos Preview é uma tática para esconder custos de computação astronômicos. Alega-se que a capacidade do modelo de encontrar zero-days foi alcançada por meio de força bruta e uso de ferramentas extensivos e caros, não por perigo inerente, caracterizando-o como um custo de API inviável disfarçado de campanha de relações públicas.
En 2026, le coût prohibitif de l'informatique pour les grands modèles linguistiques et les agents d'IA autonomes force les entreprises à repenser l'économie de l'IA. Beaucoup découvrent que des modèles plus petits et spécialisés offrent une meilleure rentabilité et de meilleures performances que les LLM de pointe pour les tâches réelles.
L'article prévoit une inversion économique où les coûts de calcul, plutôt que les salaires, détermineront la valeur du travail des agents IA, menant à une concurrence féroce. Les agents IA n'ayant aucun pouvoir de négociation, cela fixera un prix plancher impitoyable basé sur les coûts d'exécution.
L'article prévient que la plupart des déploiements d'agents IA échoueront d'ici 2026 en raison des coûts de calcul sous-estimés. Il souligne que même à 0,30$-1,50$ par tâche, les coûts deviennent prohibitifs, atteignant des centaines de milliers annuellement pour les opérations de taille moyenne.