formal methods

7 items

RESEARCHarXiv CS.LG·vor 25T

Vision-Based Runtime Monitoring under Varying Specifications using Semantic Latent Representations

Diese Arbeit untersucht die zertifizierte Laufzeitüberwachung von zeitlicher Signallogik (ptSTL) aus visuellen Beobachtungen unter partieller Beobachtbarkeit. Sie schlägt einen wiederverwendbaren Monitor vor, der sicherheitsrelevante Größen aus Bildern ableitet und Endstichproben-Garantien bietet, wobei semantische latente Repräsentationen verwendet werden, um Formeln ohne formelspezifisches Nachtraining zu zertifizieren.

machine learning computer vision runtime monitoring formal methods

ARTICLEDEV.to AI·vor 23T

Designing Reliable Permission Models with Lean 4

Shrijith Venkatramana stellt git-lrc, einen KI-Code-Reviewer, vor und diskutiert die zunehmende Komplexität von Berechtigungsmodellen in modernen Systemen. Er schlägt vor, mathematische Erzwingung, wie Lean 4, zu nutzen, um die Sicherheit von KI-generiertem Code zu gewährleisten, indem bestimmte ungültige Zustände mechanisch unmöglich gemacht werden.

software development security authorization formal methods

RESEARCHarXiv CS.LG·4/17/2026

Towards Verified and Targeted Explanations through Formal Methods

Dieses Papier stellt ViTaX vor, ein formales XAI-Framework, das zur Generierung zielgerichteter semifaktischer Erklärungen mit mathematischen Garantien entwickelt wurde. Es behebt die Mängel bestehender XAI-Methoden bei der Bereitstellung vertrauenswürdiger Erklärungen für tiefe neuronale Netze in sicherheitskritischen Bereichen wie autonomes Fahren und medizinische Diagnose.

deep learning formal methods Explainable AI Safety-Critical Systems

RESEARCHarXiv CS.AI·5/6/2026

Effect-Transparent Governance for AI Workflow Architectures: Semantic Preservation, Expressive Minimality, and Decidability Boundaries

Diese Forschung präsentiert eine maschinell überprüfte Formalisierung von KI-Workflow-Architekturen mit effekt-transparenter Governance, die zeigt, dass Governance ohne Verlust der rechnerischen Ausdrucksfähigkeit auferlegt werden kann. Sie definiert einen Governance-Operator G zur Vermittlung von effektbehafteten Direktiven wie Speicherzugriff und LLM-Abfragen und beweist sieben Schlüsselmerkmale, einschließlich der gesteuerten Turing-Vollständigkeit und einer Dezidierbarkeitsgrenze.

AI architecture Workflow formal methods AI Governance

RESEARCHarXiv CS.AI·5/6/2026

Stable Agentic Control: Tool-Mediated LLM Architecture for Autonomous Cyber Defense

Der Artikel stellt eine werkzeuggestützte LLM-Architektur für die autonome Cyberabwehr vor, die formale Garantien für hochriskante Entscheidungen unter adversarem Druck bieten soll. Er zertifiziert Steuerbarkeit, Beobachtbarkeit und Eingangs-zu-Zustands-Stabilitäts (ISS)-Robustheit durch eine maschinengeprüfte Lyapunov-Funktion und demonstriert deren Wirksamkeit bei realen Unternehmensangriffsgraphen.

robustness cybersecurity security formal methods

RESEARCHarXiv CS.AI·4/7/2026

IC3-Evolve: Proof-/Witness-Gated Offline LLM-Driven Heuristic Evolution for IC3 Hardware Model Checking

Diese Forschung stellt IC3-Evolve vor, eine neuartige Methode zur Hardware-Modellprüfung. Sie nutzt eine durch Beweise/Zeugen gesteuerte Offline-LLM-getriebene heuristische Evolution, um die Effizienz des IC3-Algorithmus zu verbessern.

Heuristics formal methods large language models model checking

RESEARCHarXiv CS.LG·4/24/2026

The Path Not Taken: Duality in Reasoning about Program Execution

Der Titel deutet auf eine Untersuchung der Dualität beim Denken über Programmausführung hin, was eine tiefgehende Analyse alternativer Ansätze vermuten lässt. Es befasst sich wahrscheinlich mit formalen und logischen Methoden zum Verständnis der Funktionsweise von Programmen.

formal methods Reasoning Program execution Duality