Bigger llm models will no longer be performant

El ensayo "On the Death of Scaling" de Sara Hooker argumenta que la estrategia de escalar modelos LLM más grandes con más cómputo y datos es cada vez menos efectiva. Modelos más nuevos y mucho más pequeños están superando a sus predecesores masivos, señalando un cambio en el camino óptimo para el desarrollo de la IA.