De nombreux systèmes de détection de la vivacité ont du mal à généraliser aux nouvelles techniques de génération de médias synthétiques, car ils ont été formés sur des données anciennes. Cela soulève des questions critiques sur la capacité des fournisseurs à faire face aux deepfakes en constante évolution.
L'article suggère de vérifier l'éclairage physiquement impossible dans les pipelines de téléchargement d'images pour détecter le contenu généré par l'IA. Les générateurs d'images IA échouent souvent à simuler avec précision la physique du monde réel, en particulier en ce qui concerne la géométrie des ombres et les sources lumineuses communes.
L'article détaille comment un caporal de police a généré 3 000 images deepfake pornographiques, étant découvert par une surtension de bande passante réseau et non par des outils médico-légaux numériques spécialisés. Cela met en lumière une défaillance critique des capacités actuelles de la criminalistique numérique et de la vision par ordinateur à détecter proactivement les médias synthétiques.
TruthLens está oferecendo um acordo vitalício (lifetime deal) por $169 para seu detector de imagens de IA, que oferece 100 verificações diárias, acesso à API e relatórios forenses. O serviço detecta imagens geradas por IA, como Midjourney e DALL-E, através de análise de pixels, inconsistência semântica e outras técnicas, sendo ideal para jornalistas, desenvolvedores e moderadores de conteúdo.