Bigger llm models will no longer be performant

L'essai "On the Death of Scaling" de Sara Hooker soutient que la tendance à faire évoluer des modèles LLM plus grands avec plus de calcul et de données devient moins efficace. Des modèles plus récents et beaucoup plus petits surpassent désormais leurs prédécesseurs énormes, indiquant un changement dans la voie optimale du développement de l'IA.