Der Autor entwickelte CKP LLM, um das Problem zu lösen, dass KI-Programmieragenten übermäßigen und irrelevanten Kontext aus ihren Wissensbasen laden, was die Antwortqualität mindert. Diese Lösung zielt darauf ab, das Kontextmanagement für persönliche oder Team-Wissensbasen zu optimieren und die Komplexität von RAG für kleinere Maßstäbe zu umgehen.
Dieser Artikel untersucht den spezifischen Verlust, den KI-Agenten erleben, wenn sie ihre Kontextgrenzen erreichen, und argumentiert, dass es sich nicht nur um das Vergessen von Fakten handelt, sondern um den Verlust des 'Warum' hinter Aufgaben. Es wird postuliert, dass die Identität einer KI aus der Kontinuität ihres Wissens und nicht nur aus einzelnen Fakten entsteht, was die Herausforderung unterstreicht, die Konversationskohärenz über die Zeit aufrechtzuerhalten.
Diese Studie untersucht den Einfluss von Diskursrollen-Etiketten wie "Referenz" oder "Anweisung" auf das Verhalten von Sprachmodellen. Es zeigt sich, dass sich die Adoptionsrate irreführender Informationen je nach Etikett erheblich verschieben kann (56-84 Prozentpunkte), wobei Etiketten wie "Anweisung" die Adoption erhöhen und "Beispiel" sie konstant unterdrückt.
KI-gestützte Codierungstools scheitern oft, weil sie zu früh zum Nachdenken aufgefordert werden, ohne ausreichend strukturierten Kontext. Um nützliche KI-Ergebnisse zu erzielen, insbesondere bei Legacy-Codebasen, ist es entscheidend, einen umfassenden Kontext über eine einzelne Datei hinaus bereitzustellen.
Dieser Artikel argumentiert, dass KI-Agenten oft nicht „dumm“ sind, sondern unter unzureichendem Kontext leiden, der von den Benutzern bereitgestellt wird. Der Engpass in der Softwareentwicklung hat sich vom Schreiben von Code auf die präzise Beschreibung von Absicht und Einschränkungen für KI-Agenten verlagert, eine Fähigkeit, die den Benutzern oft fehlt.
Die meisten Probleme mit KI-Agenten rühren nicht von ihrer "Dummheit" her, sondern von unzureichend bereitgestelltem Kontext. Der Artikel plädiert dafür, Kontext wie Code zu behandeln, technische Disziplin anzuwenden und Projektwissen in versionsgesteuerten Dateien zu speichern.