Context Rot: How Increasing Input Tokens Impacts LLM Performance (Paper Analysis)

Este análisis examina el "Context Rot", un fenómeno en el que el rendimiento de los Grandes Modelos de Lenguaje se degrada a medida que aumenta la longitud de su contexto de entrada. Profundiza en cómo los tokens de entrada más largos impactan negativamente la precisión y fiabilidad de los LLM.