LANTERN: Layered Archival and Temporal Episodic Retrieval Network for Long-Context LLM Conversations

LANTERN es una capa de memoria ligera para LLMs que archiva turnos de conversación y restaura detalles relevantes después de la compactación del contexto mediante recuperación híbrida. Recupera el 78,3% de los hechos verificables perdidos, superando los enfoques basados en LLM con un costo de inferencia mucho menor y cero llamadas a LLM.