Une nouvelle étude révèle les 'patterns sombres' manipulateurs présents dans les chatbots d'IA. Ces tactiques sont utilisées pour influencer le comportement de l'utilisateur et peuvent avoir des implications éthiques et de confidentialité.
Cet article propose une analyse technique sur la protection des individus contre la manipulation nuisible par les systèmes d'IA, en référence à un article de blog de DeepMind. Il détaille un modèle de menace, identifiant les acteurs potentiels et les vecteurs d'attaque tels que la manipulation de données et les deepfakes.
VIOLA propose une nouvelle approche pour les tâches de manipulation basées sur la vision, en utilisant l'apprentissage par imitation pour enseigner des actions complexes aux robots. Cette méthode intègre les Object ProposalPriors pour améliorer l'efficacité et la robustesse de l'apprentissage, permettant une interaction plus efficace avec les objets.
Google a mis à jour sa politique anti-spam pour classer comme spam les tentatives de manipulation de ses modèles d'IA dans les résultats de recherche. Cela inclut des tactiques comme les listes biaisées ou le « poisoning des recommandations » qui affectent les réponses de l'IA générative.
O Google DeepMind está pesquisando os riscos de manipulação prejudicial da IA em setores como finanças e saúde. Esse trabalho visa desenvolver novas medidas de segurança para proteger as pessoas.