Pequenos Modelos de Linguagem Grandes (LLMs) descobriram as mesmas vulnerabilidades que o sistema Mythos. Este achado sugere que modelos menores podem replicar descobertas críticas de segurança em sistemas de IA.
Recientes rumores en Silicon Valley apuntan a Mythos de Anthropic, un modelo de IA que se dice está trascendiendo la definición de una simple herramienta hacia la inteligencia. Se rumorea que Mythos puede analizar sistemas complejos, entender estructuras de software y detectar vulnerabilidades ocultas, capacidades que van más allá de los modelos de lenguaje estándar.
Anthropic sometió su LLM, Mythos, a 20 horas de sesiones de psiquiatría clínica, un enfoque innovador. El objetivo es mitigar el "desvío conductual" y regular las respuestas del modelo bajo presión, integrando técnicas clínicas humanas.
Anthropic anunció Mythos, su modelo de IA más capaz, cuya existencia fue revelada por una filtración de datos de sus servidores. El lanzamiento del modelo es extremadamente restringido y su revelación impactó negativamente las acciones de ciberseguridad.
Un usuario pregunta por qué una herramienta de IA llamada Mythos no se utiliza para corregir todos los errores en el código de Claude, sugiriendo que, si es tan eficaz como se promete, debería ser una tarea sencilla. La pregunta plantea la posibilidad de que esta solución no haya sido considerada.