US-Behörden haben zwei Personen festgenommen, die laut Anklage KI-generierte Deepfake-Pornografie erstellt und veröffentlicht haben – ein Verstoß gegen den TAKE IT DOWN Act. Das DOJ wirft den Beschuldigten vor, Menschen mithilfe KI-basierten Bildmaterials ohne Einwilligung zu imitieren.

US-Staatsanwälte berichten von Festnahmen zweier Personen, die demnach KI-Deepfake-Pornografie veröffentlicht haben sollen und damit gegen den TAKE IT DOWN Act verstoßen. Die Ermittler ordnen den Fall als nicht einvernehmliche Imitationsschädigung ein, die durch generative KI erheblich verstärkt werde. Laut DOJ hätten die Beschuldigten demnach pornografische Inhalte erstellt und verbreitet, indem sie KI-generierte Deepfake-Bilder nutzten – nicht durch eine einvernehmliche Beteiligung. Der Einsatz synthetischer Medien kann missbräuchliches Material laut Anklage schnell weiter verbreiten und zugleich realistischer wirken lassen. Dadurch könnten Täter gezielter gegen Betroffene vorgehen und gleichzeitig die Hürden senken, neue Inhalte zu produzieren. Über die unmittelbare sexuelle Schädigung hinaus können Deepfake-Vorhaben Teil umfassender Erpressungs- oder Nötigungsprozesse sein: Betroffene würden unter Druck gesetzt, nachdem das Material angedroht, geleakt oder verbreitet wird, um sie zu isolieren oder zu verpflichtendem Verhalten zu bringen. Die strafrechtliche Durchsetzung durch das DOJ unter dem TAKE IT DOWN Act signalisiert nach Darstellung der Behörden einen wachsenden Fokus auf die Entfernung von Inhalten, Verantwortlichkeit und die strafrechtliche Einordnung von Schöpfern und Verbreitern expliziter KI-generierter Materialien. Für potenzielle Opfer und Plattformnutzer ähnelt das Risikomuster anderen Betrugsformen auf Basis von Identitätsmissbrauch: Manipulation der Identität, psychischer Druck und eine rasche Eskalation. Der Fall verdeutlicht zudem, dass KI-gestütztes Fehlverhalten auch dann verfolgt werden kann, wenn das zugrunde liegende Vorgehen zunächst nicht wie ein klassischer „Finanzbetrug“ wirkt – denn die Imitation und Verbreitung schädlicher synthetischer Inhalte kann strafrechtlich relevant sein.