formal methods

7 items

RESEARCHarXiv CS.LG·hace 25d

Vision-Based Runtime Monitoring under Varying Specifications using Semantic Latent Representations

Este artículo estudia el monitoreo certificado en tiempo de ejecución de la lógica temporal de señal (ptSTL) a partir de observaciones visuales bajo observabilidad parcial. Propone un monitor reutilizable que infiere cantidades relevantes para la seguridad a partir de imágenes y proporciona garantías de muestra finita, utilizando representaciones latentes semánticas para certificar fórmulas sin reentrenamiento por fórmula.

machine learning computer vision runtime monitoring formal methods

ARTICLEDEV.to AI·hace 23d

Designing Reliable Permission Models with Lean 4

Shrijith Venkatramana presenta git-lrc, un revisor de código con IA, y aborda la creciente complejidad de los modelos de permisos en sistemas modernos. Propone la aplicación de la validación matemática, como Lean 4, para garantizar la seguridad del código generado por IA, haciendo que ciertos estados inválidos sean mecánicamente imposibles.

software development security authorization formal methods

RESEARCHarXiv CS.LG·17/4/2026

Towards Verified and Targeted Explanations through Formal Methods

Este artículo presenta ViTaX, un marco XAI formal que genera explicaciones semifactuales dirigidas con garantías matemáticas. Aborda la deficiencia de los métodos XAI existentes al no ofrecer garantías de confianza para redes neuronales en dominios críticos como la conducción autónoma y el diagnóstico médico.

deep learning formal methods Explainable AI Safety-Critical Systems

RESEARCHarXiv CS.AI·6/5/2026

Effect-Transparent Governance for AI Workflow Architectures: Semantic Preservation, Expressive Minimality, and Decidability Boundaries

Esta investigación presenta una formalización verificada por máquina de arquitecturas de flujo de trabajo de IA con gobernanza transparente a efectos, demostrando que la gobernanza puede imponerse sin perder la expresividad computacional. Define un operador de gobernanza G para mediar directivas con efectos como el acceso a la memoria y las consultas a LLMs, probando siete propiedades clave, incluida la completitud de Turing gobernada y un límite de decidibilidad.

AI architecture Workflow formal methods AI Governance

RESEARCHarXiv CS.AI·6/5/2026

Stable Agentic Control: Tool-Mediated LLM Architecture for Autonomous Cyber Defense

El artículo introduce una arquitectura LLM mediada por herramientas para la defensa cibernética autónoma, diseñada para proporcionar garantías formales en la toma de decisiones de alto riesgo bajo presión adversaria. Certifica la controlabilidad, la observabilidad y la robustez de Estabilidad Entrada-Estado (ISS) mediante una función de Lyapunov verificada por máquina, demostrando su eficacia en gráficos de ataque empresariales reales.

robustness cybersecurity security formal methods

RESEARCHarXiv CS.AI·7/4/2026

IC3-Evolve: Proof-/Witness-Gated Offline LLM-Driven Heuristic Evolution for IC3 Hardware Model Checking

Esta investigación presenta IC3-Evolve, un método novedoso para la verificación de modelos de hardware. Emplea la evolución heurística offline impulsada por LLM y guiada por pruebas/testigos para mejorar la eficiencia del algoritmo IC3.

Heuristics formal methods large language models model checking

RESEARCHarXiv CS.LG·24/4/2026

The Path Not Taken: Duality in Reasoning about Program Execution

El título sugiere una exploración de la dualidad en el razonamiento sobre la ejecución de programas, indicando un análisis profundo de enfoques alternativos. Probablemente aborda métodos formales y lógicos para comprender cómo operan los programas.

formal methods Reasoning Program execution Duality