Viele Lebenderkennungssysteme können nicht auf neue Techniken zur Generierung synthetischer Medien verallgemeinern, da sie mit älteren Daten trainiert wurden. Dies wirft kritische Fragen zur Fähigkeit der Anbieter auf, mit sich ständig weiterentwickelnden Deepfakes umzugehen.
Der Artikel schlägt vor, physisch unmögliche Beleuchtung in Bild-Upload-Pipelines zu überprüfen, um KI-generierte Inhalte zu erkennen. KI-Bildgeneratoren versagen oft dabei, die reale Physik genau zu simulieren, insbesondere hinsichtlich der Schattengeometrie und gemeinsamer Lichtquellen.
Der Artikel beschreibt, wie ein Polizeikorporal 3.000 Deepfake-Pornobilder erstellte und dabei eher durch einen Anstieg der Netzwerkbandbreite als durch spezialisierte digitale Forensik-Tools gefasst wurde. Dies zeigt ein kritisches Versagen der aktuellen digitalen Forensik- und Computer-Vision-Fähigkeiten auf, synthetische Medien proaktiv zu erkennen.
TruthLens está oferecendo um acordo vitalício (lifetime deal) por $169 para seu detector de imagens de IA, que oferece 100 verificações diárias, acesso à API e relatórios forenses. O serviço detecta imagens geradas por IA, como Midjourney e DALL-E, através de análise de pixels, inconsistência semântica e outras técnicas, sendo ideal para jornalistas, desenvolvedores e moderadores de conteúdo.