hat Makes a Good SFT Sample (And Why Most Synthetic Datasets Get It Wrong)

Viele feinabgestimmte Sprachmodelle zeigen eine schlechtere Leistung aufgrund minderwertiger synthetischer Daten. Das Problem liegt nicht in der Trainingskonfiguration, sondern im Fehlen von Mechanismen zur Fehlerfilterung während der Erzeugung synthetischer Daten.