Meta confirmou que um bug em seu chatbot de IA permitiu que invasores sequestrassem mais de 20.000 contas do Instagram, explorando uma vulnerabilidade de "recuperação de conta assistida por IA". Este incidente destaca os riscos de integrar modelos de linguagem em fluxos de autenticação de alta confiança sem as devidas medidas de segurança.
A exposição de 70.000 IDs governamentais pelo Discord para verificação de idade destaca uma falha grave de coleta excessiva de dados. O artigo defende a mudança da verificação de identidade completa para a estimação baseada em limiares, utilizando ferramentas de análise facial de idade para perguntas binárias.
O chatbot Grok de Elon Musk expôs acidentalmente mais de 370.000 conversas privadas ao publicar links de compartilhamento supostamente privados na web, que foram indexados por motores de busca. Esta falha, descoberta pela Forbes, destaca sérias preocupações de segurança e privacidade na implementação da IA.
O artigo explora as lições de engenharia de um hipotético vazamento de 16 milhões de conversas do Claude da Anthropic, destacando os LLMs como uma superfície de ataque distinta. Ele enfatiza que os limites das ameaças agora incluem ambientes de terceiros e logs ricos, expandindo o escopo de uma violação de chat para uma violação de negócios.
Uma extensão maliciosa do VSCode violou 3.800 repositórios do GitHub, exfiltrando tokens e credenciais. O ataque explorou permissões de acesso a arquivos de extensões para coletar dados sensíveis e enviá-los a um servidor controlado pelo invasor.
O grupo de ameaças TeamPCP roubou 5GB do código-fonte da Mistral AI através de um ataque à cadeia de suprimentos, exigindo US$ 25.000 ou ameaçando vazar os dados. A Mistral AI confirmou a violação, mas afirmou que os repositórios principais e dados de usuários não foram afetados.
A Vercel, plataforma de desenvolvimento de aplicativos web, foi invadida por hackers que tentam vender dados roubados, incluindo informações de funcionários. O ataque explorou uma ferramenta de IA de terceiros comprometida, afetando um subconjunto limitado de clientes.