Investigadores brasileiros prenderam membros de um esquema que empregava vídeos e imagens gerados por IA de celebridades, incluindo Gisele Bündchen, para promover anúncios falsos no Instagram com supostas promoções e produtos fraudulentos. O golpe teria gerado milhões de reais e levou plataformas e reguladores a aumentar a fiscalização sobre mídia sintética em publicidade.

Autoridades brasileiras desmantelaram uma quadrilha organizada que produzia e distribuía imagens geradas por IA e deepfakes de figuras públicas para promover campanhas publicitárias fraudulentas no Instagram. Segundo os investigadores, os operadores usavam a mídia sintética de celebridades conhecidas para dar credibilidade a promoções enganadoras, anúncios de produtos falsos e supostos sorteios, induzindo consumidores a pagar ou fornecer dados pessoais e financeiros. O esquema teria gerado milhões de reais em receitas antes que as autoridades identificassem ligações entre contas de anúncio, fluxos de pagamento e registros de integração, o que permitiu apontar suspeitos e congelar ativos. A investigação ressaltou a sofisticação técnica da fraude, observando que conteúdos sintéticos convincentes facilitaram a evasão de detecção casual e exploraram a confiança em influenciadores. O caso motivou verificação adicional por parte de plataformas e anunciantes e reacendeu debates sobre controles mais rígidos de verificação de anúncios, processos de remoção rápida e abordagens regulatórias para coibir fraudes ao consumidor habilitadas por IA em marketplaces e no ecossistema de publicidade em redes sociais.