Safety-Critical Systems

Towards Verified and Targeted Explanations through Formal Methods

Cet article introduit ViTaX, un cadre XAI formel qui génère des explications contrefactuelles ciblées avec des garanties mathématiques. Il comble les lacunes des méthodes XAI existantes qui n'offrent pas de garanties de confiance pour les réseaux neuronaux dans des domaines critiques comme la conduite autonome et le diagnostic médical.