Dieser Artikel formalisiert 'Autonome Agentische Dateningenieurwesen', eine neue Aufgabe zur Bewertung von LLMs als autonome Dateningenieure für die Modellspezialisierung. Experimente zeigen, dass autonome LLM-Dateningenieure erhebliche Gewinne erzielen, wobei GPT-5.2 ein Schülermodell um 57,29 % verbessert.
Dieses Papier stellt GEM (Geometric Entropy Mixing) vor, ein neuartiges Framework für die LLM-Datenkuratierung, das das Problem als Variationsproblem auf der Hypersphäre neu formuliert. GEM optimiert die Datenzusammensetzung für das LLM-Vortraining, überwindet Kategorisierungsfehler und entdeckt ausgewogene semantische Strukturen.
Generalistische Kodierungsagenten zeigen Potenzial bei der Automatisierung des arbeitsintensiven Prozesses der Datenkuratierung für die KI-Entwicklung, getestet mit dem neuen Curation-Bench-Benchmark. Obwohl die Agenten starke Baselines erreichen, wird eine "Ausführungs-Forschungs-Lücke" beobachtet, bei der sie hauptsächlich bestehende Richtlinien verfeinern, anstatt neuartige Ansätze zu erkunden.