Le lancement de Claude Opus 4.7, avec son nouveau tokenizer augmentant l'utilisation des tokens de 35% pour le même texte, a incité l'auteur à prendre au sérieux la gestion du gaspillage de tokens. L'article détaillera comment il a mesuré et distingué le gaspillage de l'utilisation inefficace sur plus de 133 000 interactions.
L'auteur relate sa surprise face aux factures d'IA élevées, un problème résultant du manque de visibilité des coûts pendant l'utilisation. Pour résoudre ce problème, il a créé TokenBar, un outil qui affiche les dépenses en temps réel, modifiant immédiatement son comportement de consommation d'IA.
Microsoft a résilié ses accords de licence Claude Code en raison de l'escalade des coûts de l'IA et de la volatilité des modèles de facturation basés sur l'utilisation. Cette décision signale une réévaluation significative des stratégies d'investissement en IA, alors que les entreprises peinent à gérer des dépenses imprévisibles dans le secteur technologique.
L'auteur a suivi les coûts des API d'IA pendant six mois et a découvert que les dépenses étaient liées à de mauvaises habitudes d'utilisation, telles que des sessions longues avec de grandes fenêtres de contexte. La leçon principale est que la durée de la conversation augmente exponentiellement les coûts, surtout lorsque le contexte n'est pas géré.
L'auteur a créé TokenBar pour résoudre le problème des factures d'IA imprévisibles et invisibles en offrant une visibilité en temps réel de l'utilisation et des dépenses d'IA. Cet outil se trouve dans la barre de menu, fournissant une réponse immédiate sur les dépenses actuelles, contrairement aux tableaux de bord ou e-mails de facturation rétroactifs.
Un développeur solo, effrayé par sa facture d'IA inattendue, a créé TokenBar, une application macOS de barre de menu offrant une visibilité en temps réel des dépenses LLM. L'article souligne l'importance de construire des solutions pour les problèmes récurrents, tels que les coûts de l'IA et le manque de concentration.