Context Rot: How Increasing Input Tokens Impacts LLM Performance (Paper Analysis)

Diese Analyse untersucht "Context Rot", ein Phänomen, bei dem die Leistung großer Sprachmodelle abnimmt, wenn die Länge ihres Eingabekontexts zunimmt. Sie befasst sich damit, wie längere Eingabetoken die Genauigkeit und Zuverlässigkeit von LLMs negativ beeinflussen.