Este artículo formaliza la 'Ingeniería de Datos Agéntica Autónoma', una tarea novedosa para evaluar LLMs como ingenieros de datos autónomos que impulsan la especialización de modelos. Los experimentos demuestran que los ingenieros de datos LLM autónomos logran ganancias sustanciales, con GPT-5.2 mejorando un modelo estudiante en un 57,29%.
Este artículo introduce GEM (Geometric Entropy Mixing), un nuevo marco para la curación de datos de LLM que reformula el problema como uno variacional en la hiperesfera. GEM optimiza la composición de datos para el preentrenamiento de LLMs, superando fallos de categorización y descubriendo estructuras semánticas equilibradas.
Los agentes de codificación generalistas muestran potencial en la automatización del proceso intensivo de curación de datos para el desarrollo de IA, probado en el nuevo benchmark Curation-Bench. Aunque los agentes alcanzan líneas de base sólidas, se observa una "brecha de ejecución-investigación" donde principalmente refinan políticas existentes en lugar de explorar enfoques novedosos.