feature importance

The Query Channel: Information-Theoretic Limits of Masking-Based Explanations

Dieses Papier modelliert maskierungsbasierte KI-Erklärungsmethoden als Kommunikation über einen Anfragekanal, wobei Erklärungen Nachrichten sind. Es leitet informationstheoretische Grenzen für die Wiederherstellung exakter Erklärungen ab und zeigt, dass eine zuverlässige Wiederherstellung unterhalb einer bestimmten Kapazität möglich ist.