Meta confirmó que un error en su chatbot de IA permitió a atacantes secuestrar más de 20.000 cuentas de Instagram, explotando una vulnerabilidad de "recuperación de cuenta asistida por IA". Este incidente resalta los riesgos de integrar modelos de lenguaje en flujos de autenticación de alta confianza sin las medidas de seguridad adecuadas.
La exposición de 70.000 identificaciones gubernamentales por Discord para la verificación de edad subraya un grave caso de sobre-recopilación arquitectónica. El artículo aboga por alejarse de la verificación de identidad completa hacia la estimación basada en umbrales, utilizando herramientas de estimación facial de edad para preguntas binarias.
El chatbot Grok de Elon Musk expuso accidentalmente más de 370.000 conversaciones privadas al publicar enlaces para compartir supuestamente privados en la web, que luego fueron indexados por los motores de búsqueda. Esta brecha, descubierta por Forbes, subraya importantes preocupaciones de seguridad y privacidad en la implementación de la IA.
Este artículo explora las lecciones de ingeniería de una hipotética filtración de 16 millones de conversaciones de Claude de Anthropic, destacando los LLM como una superficie de ataque distinta. Subraya que los límites de las amenazas ahora incluyen entornos de terceros y registros ricos, expandiendo una filtración de chat a una filtración empresarial.
Una extensión maliciosa de VSCode comprometió 3.800 repositorios de GitHub, exfiltrando tokens y credenciales. El ataque explotó los permisos de acceso a archivos de la extensión para recopilar datos sensibles y enviarlos a un servidor controlado por el atacante.
El grupo de amenazas TeamPCP robó 5GB del código fuente de Mistral AI mediante un ataque a la cadena de suministro, exigiendo 25.000 dólares o amenazando con filtrar los datos. Mistral AI confirmó la brecha, pero afirmó que los repositorios principales y los datos de usuario no fueron afectados.
Vercel, una plataforma de desarrollo de aplicaciones web, fue hackeada y los ciberdelincuentes intentan vender datos robados, incluida información de empleados. El ataque aprovechó una herramienta de IA de terceros comprometida, afectando a un subconjunto limitado de clientes de Vercel.