Pequenos Modelos de Linguagem Grandes (LLMs) descobriram as mesmas vulnerabilidades que o sistema Mythos. Este achado sugere que modelos menores podem replicar descobertas críticas de segurança em sistemas de IA.
Recentemente, tem-se falado em Silicon Valley sobre o Mythos da Anthropic, um modelo de IA que se diz estar a transcender a definição de uma simples ferramenta para se aproximar da inteligência. Rumores sugerem que o Mythos pode analisar sistemas complexos, entender estruturas de software e detetar vulnerabilidades ocultas, indo além das capacidades dos modelos de linguagem padrão.
A Anthropic submeteu seu LLM, Mythos, a 20 horas de sessões de psiquiatria clínica, uma abordagem inovadora para resolver a instabilidade de modelos de IA. O objetivo é mitigar o "desvio comportamental" sob pressão, buscando integrar técnicas clínicas humanas para regular as respostas do modelo.
A Anthropic anunciou seu modelo de IA mais capaz, Mythos, cuja existência foi revelada por um vazamento de dados de seus servidores. O lançamento do modelo é extremamente restrito, não estando disponível para a maioria das empresas ou até mesmo para o Pentágono, e sua revelação impactou negativamente ações de cibersegurança.
Um usuário questiona por que uma ferramenta de IA chamada Mythos não é utilizada para corrigir todos os bugs no código do Claude, sugerindo que, se for tão eficaz quanto prometido, isso deveria ser uma tarefa simples. A pergunta levanta a possibilidade de que essa solução não tenha sido considerada.