EVE-Agent stellt einen evidenzüberprüfbaren, selbstergänzenden Agenten vor, der die Vertrauenswürdigkeit der Selbstevolution durch die Anforderung überprüfbarer Beweise für generierte Instanzen sicherstellt. Dieser Agent modifiziert das Proposer-Solver-Framework, wobei ein Proposer Fragen, Antworten und Evidenzabschnitte generiert, die dann von einem Evidenzprüfer bewertet werden.
Diese Arbeit konzentriert sich auf die genaue Unsicherheitsabschätzung für Open-Set-Textklassifizierung (OSTC)-Systeme, bei denen Textproben in bestehende Klassen eingeteilt oder als unbekannt abgelehnt werden können. Sie adaptiert die Holistic Uncertainty Estimation (HolUE)-Methode für den Textbereich, um Text- und Galerieunsicherheiten zu erfassen, und schlägt einen neuen OSTC-Benchmark vor.
Copilot Studio formalisiert den KI-Betrieb streng innerhalb eines geerbten Ausführungskontextes, wobei Berechtigungen und verbundene Systeme respektiert werden. Dies führt das 'MCP Blast Radius' ein, das den Umfang des Zugriffs eines KI-Systems in Unternehmensumgebungen definiert.
TRUST ist ein dezentrales Framework, das darauf abzielt, Einschränkungen bei Robustheit, Skalierbarkeit, Opazität und Datenschutz in großen Denkmodellen und Multi-Agenten-Systemen zu überwinden. Es führt HDAGs für die verteilte Prüfung, ein Protokoll zur Ursachenanalyse und einen mehrstufigen Konsensmechanismus ein.
DeepER-Med stellt ein agentenbasiertes KI-Framework für evidenzbasierte medizinische Forschung vor, das Vertrauenswürdigkeit und Transparenz verbessert. Es bietet explizite Kriterien für die Evidenzbewertung und verbessert das Benchmarking für komplexe, reale medizinische Fragen.
Este título descreve uma pesquisa focada na verificação e validação de sistemas autônomos confiáveis, utilizando uma abordagem neuro-simbólica integrada a agentes LLM. O objetivo é garantir a robustez e a segurança de sistemas de IA avançados.