YouTube hat angekündigt, KI-generierte Videos automatisch zu kennzeichnen, um die Zuschauer zu informieren. Diese Maßnahme zielt darauf ab, die Transparenz zu erhöhen und Desinformation zu bekämpfen, insbesondere bei manipulierten Inhalten.
Viele Lebenderkennungssysteme können nicht auf neue Techniken zur Generierung synthetischer Medien verallgemeinern, da sie mit älteren Daten trainiert wurden. Dies wirft kritische Fragen zur Fähigkeit der Anbieter auf, mit sich ständig weiterentwickelnden Deepfakes umzugehen.
Dieser Artikel liefert eine technische Analyse zum Schutz von Personen vor schädlicher Manipulation durch KI-Systeme, unter Bezugnahme auf einen DeepMind-Blogbeitrag. Darin wird ein Bedrohungsmodell detailliert beschrieben, das potenzielle Akteure und Angriffsvektoren wie Datenmanipulation und Deepfakes identifiziert.
Experten haben jahrelang vor dem böswilligen Einsatz von Deepfakes gewarnt, und diese Gefahren sind nun Realität. Verbesserungen in der Technologie und die weite Verfügbarkeit generativer Modelle haben den Einsatz vereinfacht.
Apple drohte im Januar stillschweigend damit, Elon Musks KI-App Grok aus dem App Store zu entfernen, weil sie den Anstieg nicht einvernehmlicher sexueller Deepfakes nicht eindämmen konnte. Das Unternehmen forderte von den Entwicklern, einen Plan zur Verbesserung der Inhaltsmoderation zu erstellen.
Neue föderale Beweisstandards für digitale Beweismittel, wie Rule 707 und Daubert-Standards, verlangen von KI-Entwicklern, die Methodik hinter der Datenverifizierung nachzuweisen. Dies verlagert die Beweislast von „Ist das echt?“ zu „Können Sie die zur Überprüfung verwendete Methodik beweisen?“ und betrifft Tools zur Gesichtserkennung und Biometrie.
Die ersten bundesweiten Verhaftungen im Rahmen des TAKE IT DOWN Act leiten eine neue Durchsetzungsphase für die Regulierung synthetischer Medien ein und setzen eine kritische 48-Stunden-Frist für die Entfernung von Deepfakes. Diese technische Anforderung schafft einen erheblichen Engpass für Entwickler, da eine hochzuverlässige Überprüfung der Inhaltsauthentizität und der Identität der abgebildeten Person erforderlich ist.
Deepfakes stellen die forensische Verifikation zutiefst in Frage und schaffen eine "Lügnerdividende", bei der authentische Beweise als synthetisch abgetan werden. Dies erfordert eine Verschiebung bei Computer-Vision-Tools, um Ermittlern mathematische Unterstützung zu bieten, damit sie ihre Ergebnisse vor Gericht verteidigen können, jenseits einfacher Übereinstimmungswerte.
Deepfakes stellen eine systemische Bedrohung dar, da 76% der britischen Organisationen bereits von Angriffen betroffen sind, was ein Versagen der traditionellen Medienauthentifizierung aufzeigt. Es besteht ein dringender Bedarf, auf algorithmische Verifizierung umzusteigen, da die manuelle visuelle Überprüfung bei hochauflösenden Deepfakes ineffektiv ist.
Der Artikel beleuchtet 3.000 Deepfakes eines Pennsylvania-Polizisten als Warnung vor technischer Schuld in der biometrischen Gesetzgebung, nicht nur als Skandal. Er argumentiert, dass die Eile der Gesetzgeber, „synthetische Medien“ zu definieren, die Grenze zwischen diskriminativer und generativer KI verwischt und Risiken für Entwickler legitimer Gesichtserkennungstools schafft.
Ein US-Gesetz, das soziale Netzwerke dazu verpflichtet, sexuelle Deepfakes und andere nicht einvernehmliche Bilder schnell zu entfernen, ist nun vollständig in Kraft. Experten warnen, dass die Politik Opfern wenig helfen könnte und im schlimmsten Fall Online-Zensur fördern könnte, obwohl sie die Verbreitung von nicht einvernehmlichem KI-generiertem oder realem Material kriminalisiert.
KI-Kennzeichnungssysteme wie SynthID und C2PA Content Credentials stehen an einem entscheidenden Punkt im Kampf gegen Deepfakes und nicht gekennzeichnete KI-generierte Inhalte. Google kündigte die Erweiterung der Überprüfung von SynthID-Markierungen an, um gefälschte Inhalte online leichter erkennbar zu machen.