Um novo estudo revela os 'padrões sombrios' manipuladores presentes em chatbots de IA. Essas táticas são usadas para influenciar o comportamento do usuário e podem ter implicações éticas e de privacidade.
Este artigo oferece uma análise técnica sobre a proteção de indivíduos contra manipulação prejudicial por sistemas de IA, referenciando uma postagem de blog do DeepMind. Ele detalha um modelo de ameaça, identificando atores potenciais e vetores de ataque como manipulação de dados e deepfakes.
VIOLA introduz uma abordagem inovadora para tarefas de manipulação baseadas em visão, utilizando aprendizado por imitação para ensinar ações complexas a robôs. O método incorpora Object ProposalPriors para aumentar a eficiência e robustez do aprendizado, permitindo uma interação mais eficaz com objetos.
O Google atualizou sua política de spam para incluir tentativas de manipular seus modelos de IA nos resultados de pesquisa. Isso visa combater táticas como listas enviesadas ou "envenenamento de recomendações" que afetam as respostas geradas por IA.
O Google DeepMind está pesquisando os riscos de manipulação prejudicial da IA em setores como finanças e saúde. Esse trabalho visa desenvolver novas medidas de segurança para proteger as pessoas.