Plan, divide, and conquer: How weak models excel at long context tasks

Ce contenu explique comment un framework "Diviser pour Régner" permet aux modèles de langage plus petits de surpasser des modèles plus grands comme GPT-4o sur des tâches à contexte long. Il s'attaque à la dégradation des performances des LLM avec des fenêtres de contexte croissantes en divisant les documents en morceaux parallèles.