Des enquêteurs brésiliens ont arrêté des membres d’un réseau qui utilisaient des vidéos et images générées par IA de célébrités, dont Gisele Bündchen, pour diffuser des publicités Instagram promouvant de faux cadeaux et produits frauduleux. L’escroquerie, qui aurait rapporté plusieurs millions de reais, a attiré l’attention des plateformes et des régulateurs sur l’usage croissant des médias synthétiques dans la fraude publicitaire e‑commerce.

Les autorités brésiliennes ont démantelé un réseau organisé qui produisait et diffusait des images et vidéos deepfake de célébrités afin de promouvoir des campagnes publicitaires frauduleuses sur Instagram. Selon les enquêteurs, les opérateurs exploitaient des médias synthétiques de personnalités connues pour donner une apparence de crédibilité à de fausses promotions, des annonces de produits bidon et des loteries fictives, poussant les consommateurs à effectuer des paiements ou à fournir des données personnelles et financières. L’affaire aurait généré plusieurs millions de reais avant que les enquêteurs ne retracent les liens entre comptes publicitaires, flux de paiements et dossiers d’onboarding pour identifier des suspects et geler des avoirs. Les forces de l’ordre ont souligné la sophistication technique de la fraude : des contenus synthétiques suffisamment réalistes ont permis aux publicités trompeuses d’échapper à une détection superficielle et d’exploiter la confiance accordée aux influenceurs. L’enquête a entraîné des contrôles accrus de la part des plateformes sociales et des annonceurs, et relancé les débats sur des mécanismes renforcés de vérification des publicités, des procédures rapides de retrait et des réponses réglementaires pour dissuader les fraudes à l’aide de l’IA sur les places de marché en ligne et les écosystèmes publicitaires des réseaux sociaux.