Eine neue Studie enthüllt die manipulativen 'Dark Patterns' in KI-Chatbots. Diese Taktiken werden verwendet, um das Nutzerverhalten zu beeinflussen, und können ethische sowie Datenschutzimplikationen haben.
Dieser Artikel liefert eine technische Analyse zum Schutz von Personen vor schädlicher Manipulation durch KI-Systeme, unter Bezugnahme auf einen DeepMind-Blogbeitrag. Darin wird ein Bedrohungsmodell detailliert beschrieben, das potenzielle Akteure und Angriffsvektoren wie Datenmanipulation und Deepfakes identifiziert.
VIOLA präsentiert einen neuartigen Ansatz für bildbasierte Manipulationsaufgaben, der Imitationslernen nutzt, um Robotern komplexe Aktionen beizubringen. Es integriert Object ProposalPriors, um die Effizienz und Robustheit des Lernens zu verbessern und eine effektivere Interaktion mit Objekten zu ermöglichen.
Google hat seine Spam-Richtlinien aktualisiert, um Versuche zur Manipulation seiner KI-Modelle in den Suchergebnissen als Spam einzustufen. Dies umfasst Taktiken wie voreingenommene „Bestenlisten“ oder „Empfehlungs-Poisoning“, die generative KI-Antworten beeinflussen.
O Google DeepMind está pesquisando os riscos de manipulação prejudicial da IA em setores como finanças e saúde. Esse trabalho visa desenvolver novas medidas de segurança para proteger as pessoas.