Autoridades federais detiveram dois indivíduos acusados de criar e publicar pornografia deepfake gerada por IA em violação à Lei TAKE IT DOWN. Segundo o DOJ, o caso envolve uso não consensual de imagens sintéticas para simular a identidade das vítimas.

Procuradores dos EUA anunciaram prisões de dois suspeitos acusados de publicar pornografia deepfake com imagens geradas por IA, infringindo a Lei TAKE IT DOWN. A acusação enquadra o episódio como uma forma de “impersonação” sem consentimento, com danos ampliados pela tecnologia de IA generativa. De acordo com o DOJ, os réus teriam criado e distribuído conteúdo pornográfico usando material de deepfake, e não participação autorizada. O órgão destaca que mídias sintéticas podem expandir rapidamente o alcance e a aparência de realidade do abuso, permitindo que agressores ataquem vítimas com menos obstáculos para produzir novas versões do conteúdo. Além do impacto sexual direto, operações envolvendo deepfakes podem funcionar como etapas de fluxos maiores de extorsão ou coerção: após o material ser ameaçado, vazado ou compartilhado, as vítimas podem ser pressionadas para se isolarem ou para obedecerem às exigências. A atuação do DOJ com base na TAKE IT DOWN Act aponta para um foco federal crescente em remoção (takedown), responsabilização e responsabilização criminal de quem cria e distribui material explícito gerado por IA. Para possíveis vítimas e usuários de plataformas, o padrão de risco se assemelha a fraudes baseadas em falsidade de identidade: manipulação do perfil, pressão psicológica e escalada rápida. O caso também reforça a ideia de que condutas ilícitas viabilizadas por IA podem ser enquadradas na esfera criminal mesmo quando o esquema não se parece, de início, com fraudes financeiras clássicas, já que a falsificação de identidade e a distribuição de conteúdo sintético nocivo podem ser passíveis de punição.