Un nuevo estudio revela los 'patrones oscuros' manipuladores presentes en los chatbots de IA. Estas tácticas se utilizan para influir en el comportamiento del usuario y pueden tener implicaciones éticas y de privacidad.
Este artículo ofrece un análisis técnico sobre la protección de individuos contra la manipulación dañina por sistemas de IA, referenciando una publicación de blog de DeepMind. Detalla un modelo de amenaza, identificando actores potenciales y vectores de ataque como la manipulación de datos y los deepfakes.
VIOLA presenta un enfoque novedoso para tareas de manipulación basadas en visión, utilizando el aprendizaje por imitación para enseñar acciones complejas a robots. Incorpora Object ProposalPriors para mejorar la eficiencia y robustez del aprendizaje, permitiendo una interacción más efectiva con los objetos.
Google ha actualizado su política de spam para incluir los intentos de manipular sus modelos de IA en los resultados de búsqueda. Esto busca combatir tácticas como listas sesgadas o "envenenamiento de recomendaciones" que afectan las respuestas de la IA generativa.
O Google DeepMind está pesquisando os riscos de manipulação prejudicial da IA em setores como finanças e saúde. Esse trabalho visa desenvolver novas medidas de segurança para proteger as pessoas.