Pequenos Modelos de Linguagem Grandes (LLMs) descobriram as mesmas vulnerabilidades que o sistema Mythos. Este achado sugere que modelos menores podem replicar descobertas críticas de segurança em sistemas de IA.
Des murmures récents dans la Silicon Valley concernent Mythos d'Anthropic, un modèle d'IA qui transcenderait la définition d'un simple outil pour s'approcher de l'intelligence. Des initiés suggèrent que Mythos peut analyser des systèmes complexes, comprendre des structures logicielles et détecter des vulnérabilités cachées, des capacités bien au-delà des modèles de langage standard.
Anthropic a soumis son LLM, Mythos, à 20 heures de séances de psychiatrie clinique, une approche innovante. L'objectif est d'atténuer la "déviation comportementale" et de réguler les réponses du modèle sous pression en intégrant des techniques cliniques humaines.
Anthropic a annoncé Mythos, son modèle d'IA le plus performant, dont l'existence a été révélée par une fuite de données de ses serveurs. Le lancement du modèle est extrêmement restreint et sa révélation a eu un impact négatif sur les actions de cybersécurité.
Un utilisateur se demande pourquoi un outil d'IA nommé Mythos n'est pas utilisé pour corriger tous les bugs dans le code de Claude, suggérant que si l'outil est aussi efficace que promis, cela devrait être une tâche simple. La question soulève la possibilité que cette solution n'ait pas été envisagée.