Investigadores brasileños detuvieron a miembros de una red que utilizó videos e imágenes generados por IA de celebridades, incluida Gisele Bündchen, para publicar anuncios en Instagram que promocionaban sorteos y productos falsos. La trama habría generado millones de reales antes de que las autoridades rastrearan cuentas publicitarias, flujos de pago y registros de incorporación para identificar y congelar activos.

Las autoridades brasileñas desmantelaron una organización que producía y distribuía imágenes generadas por IA y videos deepfake de figuras públicas para promover campañas publicitarias fraudulentas en Instagram. Según los investigadores, los operadores emplearon medios sintéticos de celebridades reconocidas para dar apariencia de legitimidad a promociones engañosas, listados de productos falsos y supuestos sorteos, logrando que consumidores pagaran o entregaran datos personales y financieros. La investigación determinó que la red obtuvo millones de reales antes de que se detectaran los vínculos entre cuentas de anuncios, flujos de pagos y registros de alta, lo que permitió identificar a sospechosos y congelar activos. Las autoridades subrayaron la sofisticación técnica del fraude: contenidos sintéticos convincentes facilitaron que los anuncios eludieran detección superficial y explotaran la confianza en influencers. El caso provocó un mayor escrutinio por parte de plataformas y anunciantes, y reavivó debates sobre controles más estrictos de verificación publicitaria, procedimientos rápidos de retirada de contenido y marcos regulatorios para frenar el fraude al consumidor habilitado por IA en mercados y redes sociales.