O autor desenvolveu o CKP LLM para resolver o problema de agentes de IA carregarem contexto excessivo e irrelevante de suas bases de conhecimento, o que diminui a qualidade das respostas. Esta solução visa otimizar o gerenciamento de contexto para bases de conhecimento pessoais ou de equipe, sendo uma alternativa mais adequada ao RAG para escalas menores.
Este artigo explora a perda específica que os agentes de IA experimentam ao atingir seus limites de contexto, argumentando que não é apenas esquecimento factual, mas a perda do 'porquê' por trás das tarefas. Postula que a identidade de uma IA reside na continuidade do seu conhecimento, e não apenas em fatos individuais, enfatizando o desafio de manter a coerência conversacional ao longo do tempo.
Este estudo investiga o impacto de rótulos de função de discurso, como "Referência" ou "Instrução", no comportamento de modelos de linguagem. Ele revela que a taxa de adoção de informações enganosas pode mudar significativamente (56-84 pontos percentuais) dependendo do rótulo, com rótulos como "Instrução" aumentando a adoção e "Exemplo" suprimindo-a.
Ferramentas de codificação assistidas por IA falham frequentemente porque são solicitadas a pensar muito cedo sem contexto estruturado suficiente. Para obter resultados úteis da IA, especialmente com bases de código legadas, é crucial fornecer um contexto abrangente além de um único arquivo.
Este artigo argumenta que a ineficácia dos agentes de IA frequentemente não se deve à sua
A maioria dos problemas com agentes de IA não vem da sua "burrice", mas da má qualidade do contexto fornecido. O artigo defende tratar o contexto como código, aplicando disciplina de engenharia e armazenando conhecimento do projeto em arquivos versionados.