Autoridades federales arrestaron a dos personas acusadas de crear y publicar pornografía deepfake generada con IA, en infracción de la ley TAKE IT DOWN. El DOJ sostiene que se trató de suplantación sin consentimiento mediante imágenes generadas por inteligencia artificial.

Fiscalía de Estados Unidos informó sobre la detención de dos individuos acusados de publicar pornografía deepfake generada con IA al amparo de la ley TAKE IT DOWN. En el relato del DOJ, el caso se encuadra como un daño de suplantación no consentida amplificado por herramientas de IA generativa. Según la acusación, los demandados habrían creado y distribuido contenido pornográfico usando imágenes deepfake sintéticas, y no participación consentida. El DOJ subraya que el uso de medios sintéticos puede incrementar con rapidez el alcance y la apariencia de realismo del abuso, lo que facilita que los perpetradores ataquen a sus víctimas con menos fricciones al producir material nuevo. Además del daño sexual directo, estas operaciones con deepfakes pueden integrarse en cadenas más amplias de extorsión o coerción: las víctimas pueden ser presionadas después de que se amenace con filtrar, publicar o difundir el contenido, buscando aislarlas o forzar su cumplimiento. En ese contexto, la ejecución de la ley TAKE IT DOWN por parte del DOJ refleja un enfoque federal creciente en retiradas (takedowns), responsabilidad y consecuencias penales para quienes crean y distribuyen material explícito generado con IA. Para víctimas potenciales y usuarios de plataformas, el patrón de riesgo se parece al de otras estafas basadas en suplantación: manipulación de identidad, presión psicológica y escalada acelerada. El caso también pone de relieve que el uso delictivo habilitado por IA puede ser perseguido penalmente aun cuando el plan, en su origen, no parezca un fraude financiero clásico, porque la suplantación y la distribución de contenido sintético dañino pueden ser hechos criminalmente sancionables.