Brasilianische Ermittler nahmen Mitglieder eines Netzwerks fest, das KI-generierte Bilder und Deepfake-Videos prominenter Persönlichkeiten, darunter Gisele Bündchen, in Instagram-Anzeigen einsetzte. Die falschen Gewinnspiele und Produktanzeigen sollen Millionen Reais eingespielt haben und lösten verstärkte Kontrollen durch Plattformen und Regulierer aus.

Brasilianische Behörden haben einen organisierten Ring zerschlagen, der synthetische Medien produzierte und verbreitete, um betrügerische Werbekampagnen auf Instagram zu bewerben. Ermittler berichten, die Täter hätten realistisch wirkende KI-Bilder und Deepfake-Videos bekannter Persönlichkeiten verwendet, um gefälschten Promotions, fingierten Produktangeboten und vermeintlichen Preisverlosungen Glaubwürdigkeit zu verleihen und Konsumenten zur Zahlung oder Preisgabe persönlicher und finanzieller Daten zu verleiten. Nach Auswertung von Ad-Account-Verknüpfungen, Zahlungsflüssen und Onboarding-Unterlagen konnten Verdächtige identifiziert und Vermögenswerte eingefroren werden; die Ermittler schätzen die Einnahmen auf Millionen Reais. Die Behörden hoben die technische Raffinesse des Betrugs hervor: überzeugende synthetische Inhalte erlaubten es den Scam-Anzeigen, oberflächlichen Prüfungen zu entgehen und das Vertrauen in Influencer-ähnliche Inhalte auszunutzen. Der Fall führte zu verstärkter Nachprüfung durch soziale Plattformen und Werbetreibende und befeuerte Debatten über schärfere Verifizierungsmechanismen für Anzeigen, schnellere Löschprozesse und regulatorische Maßnahmen gegen KI-gestützten Verbraucherschutzbetrug in Online-Marktplätzen und Social-Media-Werbeökosystemen.