LLMs Struggle with Abstract Meaning Comprehension More Than Expected

Diese Forschung untersucht die Fähigkeit von LLMs, abstrakte Bedeutungen zu erfassen, und zeigt, dass Modelle wie GPT-4o in Zero-Shot-, One-Shot- und Few-Shot-Szenarien Schwierigkeiten haben, während feinabgestimmte Modelle wie BERT und RoBERTa besser abschneiden. Sie schlägt einen bidirektionalen Aufmerksamkeitsklassifikator vor, der die Genauigkeit feinabgestimmter Modelle bei der Interpretation abstrakter Konzepte erheblich verbessert.