Long-Context Processing

LANTERN: Layered Archival and Temporal Episodic Retrieval Network for Long-Context LLM Conversations

LANTERN est une couche de mémoire légère pour les LLM qui archive les tours de conversation et restaure les détails pertinents après la compaction du contexte via une récupération hybride. Il récupère 78,3 % des faits vérifiables perdus, surpassant les approches basées sur les LLM avec un coût d'inférence nettement inférieur et zéro appel LLM.