O autor aborda a complexidade de integrar diferentes provedores de modelos de IA, como Qwen e OpenRouter, em ferramentas de codificação existentes. Apesar de suas alegações de "compatibilidade OpenAI", a realidade é que várias ferramentas esperam diferentes formatos de resposta de API, resultando em um processo de configuração fragmentado que o autor busca evitar.
Este artigo descreve a implementação da autoclassificação de e-mails de vendas usando um LLM (via OpenRouter) em uma aplicação Next.js. Ele detalha as decisões de design para integrar chamadas de LLM fora do caminho crítico de resposta, garantindo baixa latência e tolerância a falhas para envios de formulários a um custo mínimo.
O autor mudou do OpenRouter para o CometAPI para um projeto multimodal que exigia geração de imagens, já que o OpenRouter não oferecia integração direta para serviços como Midjourney. Essa mudança consolidou o gerenciamento de API e a cobrança para as necessidades específicas do projeto.