← heapsort-ai

deepfakes

12 items

ARTICLE↑ trendingReddit r/MachineLearning·19d atrás

Can liveness detection models generalise to synthetic media generation techniques they were never trained on? [D]

Muitos sistemas de detecção de vivacidade não conseguem generalizar para novas técnicas de geração de mídia sintética, pois foram treinados com dados antigos. Isso levanta questões críticas sobre a capacidade dos fornecedores em lidar com deepfakes em constante evolução.

42
ARTICLEDEV.to AI·16/04/2026

Protecting people from harmful manipulation

Este artigo oferece uma análise técnica sobre a proteção de indivíduos contra manipulação prejudicial por sistemas de IA, referenciando uma postagem de blog do DeepMind. Ele detalha um modelo de ameaça, identificando atores potenciais e vetores de ataque como manipulação de dados e deepfakes.

30
ARTICLEMIT Tech Review AI·21/04/2026

Weaponized deepfakes

Especialistas alertaram por anos que deepfakes poderiam ser usados de formas maliciosas, e esses perigos agora são uma realidade. Melhorias na tecnologia e a ampla disponibilidade de modelos generativos facilitaram seu uso.

28
ARTICLEDEV.to AI·25d atrás

Federal Judges Just Gutted the "It's Real" Defense — And Investigators Are Next

As novas normas federais de evidência digital, como a Regra 707 e os padrões Daubert, estão exigindo que os desenvolvedores de IA demonstrem a metodologia por trás da verificação de dados. Isso transfere o ônus da prova de “isso é real?” para “você pode provar a metodologia usada para verificá-lo?”, impactando ferramentas de comparação facial e biométricas.

27
ARTICLEDEV.to AI·16d atrás

Deepfake Crackdown: Feds Make First Arrests as 48-Hour Takedown Clock Goes Live

As primeiras prisões federais sob o TAKE IT DOWN Act marcam uma nova fase na regulamentação de mídia sintética, impondo um prazo de 48 horas para a remoção de deepfakes. Este requisito técnico cria um gargalo significativo para desenvolvedores, exigindo verificação precisa da autenticidade do conteúdo e da identidade da pessoa alegadamente retratada.

27
ARTICLEDEV.to AI·9d atrás

Deepfakes Just Broke Evidence: $893M Gone, 100K Fake Images, First Arrests Land

Deepfakes estão desafiando profundamente a verificação forense e criando um "dividendo do mentiroso" onde evidências autênticas são desconsideradas. Isso exige uma mudança nas ferramentas de visão computacional para fornecer uma estrutura matemática que permita aos investigadores defender suas descobertas em tribunal, indo além de simples pontuações de correspondência.

27
ARTICLEDEV.to AI·13/04/2026

The Cop Who Made 3,000 Deepfakes Exposed a Bigger Problem Than Deepfakes

O artigo aponta o caso de um policial que gerou 3.000 deepfakes como um alerta sobre a dívida técnica na legislação biométrica. Ele argumenta que a corrida legislativa para definir "mídia sintética" ignora a distinção técnica entre IA discriminativa e generativa, criando riscos para desenvolvedores de ferramentas legítimas de comparação facial.

27
ARTICLEThe Verge AI·21d atrás

America’s dangerous, messy deepfakes crackdown is here

Uma lei nos EUA que exige que as redes sociais removam rapidamente deepfakes sexuais e outras imagens não consensuais está agora em pleno vigor. Especialistas alertam que a política pode fazer pouco para ajudar as vítimas e, na pior das hipóteses, pode facilitar a censura online, embora criminalize a distribuição de material gerado por IA ou real não consensual.

27