O autor expressa surpresa e frustração com o aumento drástico e sustentado dos preços de GPUs de servidor (H100/H200/B200) em plataformas como Vast e Mithril, atingindo mais de US$ 1k por hora. Ele argumenta que isso é insustentável para acadêmicos e startups, e impede o desenvolvimento de seus projetos, como um pipeline BitNet para a comunidade localLlama.
O texto argumenta que a narrativa de "risco de segurança" da Anthropic para seu modelo Claude Mythos Preview é uma tática para esconder custos de computação astronômicos. Alega-se que a capacidade do modelo de encontrar zero-days foi alcançada por meio de força bruta e uso de ferramentas extensivos e caros, não por perigo inerente, caracterizando-o como um custo de API inviável disfarçado de campanha de relações públicas.
Em 2026, o custo proibitivo da computação para modelos de linguagem grandes e agentes de IA autônomos está forçando as empresas a repensar a economia da IA. Muitas estão descobrindo que modelos menores e especializados oferecem melhor custo-benefício e desempenho do que LLMs de ponta para tarefas do mundo real.
O artigo prevê uma inversão econômica onde o custo computacional, e não salários, determinará o valor do trabalho de agentes de IA, levando a uma concorrência de preços implacável. Agentes de IA carecem de poder de barganha humano, estabelecendo um piso de preço impiedoso baseado nos custos de execução.
O artigo alerta que a maioria das implementações de agentes de IA falhará até 2026 devido aos custos de computação subestimados. Ele destaca que, mesmo a $0,30-$1,50 por tarefa, os custos se tornam proibitivos, chegando a centenas de milhares anualmente para operações de médio porte.