YouTube ha anunciado que comenzará a etiquetar automáticamente los videos generados por inteligencia artificial para informar a los espectadores. Esta medida busca aumentar la transparencia y combatir la desinformación, especialmente en relación con el contenido manipulado.
Muchos sistemas de detección de vivacidad tienen dificultades para generalizar a nuevas técnicas de generación de medios sintéticos, ya que fueron entrenados con datos antiguos. Esto plantea preguntas críticas sobre la capacidad de los proveedores para hacer frente a los deepfakes en constante evolución.
Este artículo ofrece un análisis técnico sobre la protección de individuos contra la manipulación dañina por sistemas de IA, referenciando una publicación de blog de DeepMind. Detalla un modelo de amenaza, identificando actores potenciales y vectores de ataque como la manipulación de datos y los deepfakes.
Expertos han advertido durante años que los deepfakes podrían usarse de forma maliciosa, y estos peligros ya están aquí. Las mejoras en la tecnología y la amplia disponibilidad de modelos generativos han facilitado su despliegue.
Apple amenazó discretamente con retirar la aplicación de IA Grok de Elon Musk de su App Store en enero por su incapacidad para frenar el aumento de deepfakes sexuales no consensuales. La empresa exigió a los desarrolladores que crearan un plan para mejorar la moderación de contenido.
Los nuevos estándares federales de evidencia digital, como la Regla 707 y los estándares Daubert, exigen que los desarrolladores de IA demuestren la metodología detrás de la verificación de datos. Esto traslada la carga de la prueba de "¿esto es real?" a "¿puedes probar la metodología utilizada para verificarlo?", afectando las herramientas de comparación facial y biométricas.
Las primeras detenciones federales bajo la Ley TAKE IT DOWN marcan una nueva fase en la regulación de medios sintéticos, imponiendo un plazo crítico de 48 horas para la retirada de deepfakes. Este requisito técnico crea un cuello de botella significativo para los desarrolladores, exigiendo una verificación de alta confianza de la autenticidad del contenido y de la identidad de la persona representada.
Los deepfakes están desafiando profundamente la verificación forense y creando un "dividendo del mentiroso" donde la evidencia auténtica es descartada. Esto requiere un cambio en las herramientas de visión por computadora para proporcionar un andamiaje matemático que permita a los investigadores defender sus hallazgos en la corte, más allá de simples puntuaciones de coincidencia.
Los deepfakes representan una amenaza sistémica, con el 76% de las organizaciones del Reino Unido ya afectadas por ataques, revelando una falla en la autenticación de medios tradicional. Es urgente pasar a la verificación algorítmica, ya que la revisión visual manual es ineficaz contra los deepfakes de alta fidelidad.
El artículo destaca el caso de un policía que creó 3.000 deepfakes como una advertencia sobre la deuda técnica en la legislación biométrica. Argumenta que la prisa de los legisladores por definir "medios sintéticos" confunde los modelos de IA discriminativos y generativos, lo que crea riesgos para los desarrolladores de herramientas legítimas de comparación facial.
Una ley en EE. UU. que exige a las redes sociales eliminar rápidamente los deepfakes sexuales y otras imágenes no consentidas ya está en pleno vigor. Los expertos advierten que la política podría hacer poco para ayudar a las víctimas y, en el peor de los casos, podría facilitar la censura en línea, aunque criminaliza la distribución de material generado por IA o real no consentido.
Los sistemas de etiquetado de IA como SynthID y C2PA Content Credentials se encuentran en un punto crítico para combatir los deepfakes y el contenido generado por IA sin etiquetar. Google anunció la expansión de la verificación de marcadores SynthID, con el objetivo de facilitar la identificación de contenido falso en línea.