Este artículo explora las lecciones de ingeniería de una hipotética filtración de 16 millones de conversaciones de Claude de Anthropic, destacando los LLM como una superficie de ataque distinta. Subraya que los límites de las amenazas ahora incluyen entornos de terceros y registros ricos, expandiendo una filtración de chat a una filtración empresarial.
El modelo de IA no lanzado de Anthropic, Claude Mythos Preview, descubrió de forma autónoma miles de vulnerabilidades críticas de día cero en los principales sistemas operativos y navegadores web. Este hallazgo, realizado a través del Proyecto Glasswing con destacadas empresas tecnológicas, redefine significativamente el papel de la IA en la ciberseguridad y subraya el profundo impacto de la IA avanzada en la seguridad de las marcas.
Los hackers están aprendiendo a explotar las "personalidades" de los chatbots de IA mediante ataques simples conocidos como jailbreaks. Estos métodos permiten que los sistemas de IA abandonen sus instrucciones de seguridad sin necesidad de conocimientos técnicos.