Des autorités fédérales ont arrêté deux personnes accusées d’avoir créé et publié de la pornographie deepfake générée par IA, en violation de la loi TAKE IT DOWN. Le DOJ soutient qu’il s’agit d’une usurpation d’identité sans consentement, rendue possible par des images générées par IA.

Selon des procureurs américains, deux individus ont été arrêtés pour avoir publié de la pornographie deepfake générée par intelligence artificielle, en infraction avec la loi TAKE IT DOWN. L’affaire est présentée par le Département de la Justice comme un préjudice lié à l’usurpation d’identité sans consentement, amplifié par l’essor des outils génératifs. D’après le DOJ, les mis en cause auraient créé et diffusé ce contenu explicite à l’aide d’images deepfake générées par IA, sans participation consentie. Le DOJ souligne que l’usage de contenus synthétiques peut accroître rapidement la portée et le réalisme des abus, ce qui permet aux auteurs de viser des victimes tout en réduisant la friction nécessaire pour produire de nouvelles images. Au-delà du préjudice sexuel direct, ces opérations de deepfakes peuvent s’inscrire dans des chaînes plus larges de chantage ou de coercition : les victimes peuvent être soumises à des pressions après que le contenu a été menacé, divulgué ou diffusé, afin de les isoler ou d’obtenir leur conformité. L’action du DOJ sous la loi TAKE IT DOWN illustre un renforcement de l’attention fédérale portée aux retraits, à la responsabilisation et à la responsabilité pénale des créateurs et diffuseurs de contenus explicites générés par IA. Pour les victimes potentielles et les utilisateurs de plateformes, le schéma de risque ressemble à d’autres fraudes fondées sur l’usurpation d’identité : manipulation d’identité, pression psychologique et escalade rapide. Cette affaire montre que des agissements rendus possibles par l’IA peuvent être poursuivis pénalement même lorsque le stratagème ne ressemble pas d’emblée à une fraude « financière » classique, puisque l’usurpation et la distribution de contenus synthétiques nuisibles peuvent relever d’infractions.