Eine Analyse von The Guardian und der AI Incident Database zeigt, dass Deepfakes heute günstig und massenhaft einsetzbar sind und gefälschte Videos und Audioaufnahmen nutzen, um Investmentbetrug zu befördern und Kontakte der Opfer zu imitieren. Experten warnen, dass generative KI hyper‑personalisiertes Social‑Engineering in Bereichen wie Recruiting, Romance‑Scams und Unternehmensbetrug ermöglicht und damit Erkennung und Strafverfolgung erschwert.

Investigative Recherchen, zusammengeführt in The Guardian und der AI Incident Database, dokumentieren, dass die Erzeugung von Deepfakes sich von Nischen‑Demonstrationen zu einem erschwinglichen, hochvolumigen Werkzeug für Betrüger entwickelt hat. Täter produzieren täuschend echte synthetische Videos und Sprachaufnahmen sowohl von öffentlichen Personen als auch von privaten Kontakten, um fingierte Investitionsmöglichkeiten zu bewerben, Führungskräfte bei Business‑Email‑Compromise‑Angriffen zu imitieren und Romance‑ sowie Bewerbungsbetrügereien zu beschleunigen. Die Analyse listet mehrere Vorfälle, in denen Opfer nach dem Konsum realistischer Fälschungen erhebliche Summen verloren, weil die manipulierten Inhalte scheinbare Glaubwürdigkeit für betrügerische Zahlungsanforderungen oder falsche Empfehlungen erzeugten. Forschende und Sicherheitsexperten betonen, dass die Demokratisierung generativer Modelle in Kombination mit leistungsfähigen Verbreitungskanälen Kriminellen erlaubt, großflächig anzugreifen und gleichzeitig Nachrichten so zu personalisieren, dass die Konversionsraten steigen. Der Anstieg des Missbrauchs synthetischer Medien überfordert bestehende Erkennungswerkzeuge und rechtliche Rahmenwerke, was Forderungen nach stärkeren Herkunfts‑ und Provenienzstandards, schnelleren Löschprozessen und intensiveren Aufklärungskampagnen auslöst. Strafverfolgungsbehörden passen ihre Ermittlungsabläufe an, indem sie AI‑Forensik, Blockchain‑Tracing und internationale Kooperationen integrieren, doch Experten warnen, dass politische Maßnahmen und technische Abwehrmechanismen hinter dem Tempo der Ausbeutung zurückbleiben.