L'auteur discute de la complexité d'intégrer divers fournisseurs de modèles d'IA comme Qwen et OpenRouter dans les outils de codage existants. Malgré leurs affirmations de "compatibilité OpenAI", différents outils s'attendent à des formes de réponse API distinctes, ce qui conduit à un processus de configuration fragmenté que l'auteur cherche à éviter.
Cet article détaille l'implémentation de l'autoclassification des e-mails de vente via un LLM (avec OpenRouter) dans une application Next.js. Il décrit les décisions de conception pour intégrer les appels LLM en dehors du chemin critique de réponse, garantissant une faible latence et une tolérance aux pannes pour les soumissions de formulaires à un coût minimal.
L'auteur est passé d'OpenRouter à CometAPI pour un projet multimodal nécessitant la génération d'images, car OpenRouter n'offrait pas d'intégration directe pour des services comme Midjourney. Ce changement a permis de consolider la gestion des API et la facturation pour les besoins spécifiques de leur projet.