Probabilistic Attribution For Large Language Models

Diese Arbeit nutzt die bedingten Wahrscheinlichkeiten von LLMs, um sie in die mathematische Theorie der stochastischen Prozesse einzuordnen. Es wird ein modellunabhängiges probabilistisches Token-Attributionsmaß vorgestellt, das die Bayes-Regel verwendet, um die interne Darstellung der Verteilung über Token-Sequenzen des Modells zu erfassen.