O texto aborda o desafio de latência em aplicativos multiagente, usando o SamiWISE, um tutor de GMAT, como exemplo. Ele destaca a necessidade de um roteamento "invisível" entre agentes especialistas para garantir uma experiência de usuário fluida e sem atrasos perceptíveis.
Este artigo de pesquisa identifica duas leis de escala acopladas em sistemas de agentes LLM: uma lei de roteamento que mostra a queda da precisão com o tamanho da biblioteca e uma lei de execução que demonstra como a execução correta melhora as decisões subsequentes. Um parâmetro chave, a inclinação de decaimento logarítmico do roteamento, liga essas leis, influenciando tanto o colapso inicial quanto a recuperabilidade subsequente.
Este artigo apresenta BOHM, um método inovador para atribuição hierárquica de custo zero em sistemas de IA compostos. Ao contrário dos métodos tradicionais baseados em Shapley, BOHM extrai a atribuição diretamente dos pesos de roteamento, eliminando a necessidade de acesso interno aos componentes e fornecendo insights multi-resolução.
Um experimento explorou o roteamento de consultas de IA para diferentes LLMs (DeepSeek-V4 Pro, Kimi 2.6, MiniMax 2.7, Qwen3 235B) com base na tarefa. Concluiu-se que nenhum modelo único se destacou em todas as tarefas, e regras YAML simples foram eficazes, enquanto o roteamento complexo e a previsão de custos falharam.