Dieser Artikel beleuchtet, wie Nutzer-„Daumen runter“-Feedback unschätzbare reale Trainingsdaten für KI-Systeme liefert, die oft von Teams übersehen werden. Er räumt mit dem Irrglauben auf, dass KI-Feinabstimmung immer teuer und komplex ist, und schlägt eine vereinfachte Feedbackschleife für die Produktentwicklung vor.
Oran, ein KI-unterstützter Entwickler, stellte dem Lagerteam ein neues Inventarsystem vor und erwartete positives Feedback. Jedoch erkannte er schnell, dass seine KI-generierte Lösung, die auf einem einfachen Prompt basierte, grundlegend unzureichend war, da ihr wichtige Funktionen wie ein Wareneingangsprotokoll und eine granulare Zugriffssteuerung fehlten, was eine Kluft zwischen KI-Ergebnis und realen Benutzerbedürfnissen offenbarte.
Nutzer von Claude AI haben einen deutlichen Leistungsabfall des Modells bemerkt, wobei einige sogar Beweise gesammelt haben. Anthropic, der Entwickler von Claude, hat das Problem zugegeben und versprochen, die drei Gründe für den Qualitätsrückgang zu erläutern.