Long-Context Processing

LANTERN: Layered Archival and Temporal Episodic Retrieval Network for Long-Context LLM Conversations

LANTERN é uma camada de memória leve para LLMs que arquiva turnos de conversação e restaura detalhes relevantes após a compactação do contexto através de recuperação híbrida. Ele recupera 78,3% dos fatos verificáveis perdidos, superando abordagens baseadas em LLM com custo de inferência muito menor e zero chamadas LLM.