Working Memory

Human-like Working Memory Interference in Large Language Models

Diese Studie untersucht die Arbeitsgedächtnisbeschränkungen in großen Sprachmodellen (LLMs) und stellt fest, dass diese menschenähnliche Interferenzsignaturen aufweisen. Vortrainierte LLMs zeigen eine Leistungsverschlechterung bei erhöhter Gedächtnisbelastung und eine Verzerrung durch Rezenz, obwohl Transformer trainiert werden können, solche Aufgaben perfekt zu lösen.