Федеральные власти сообщили о задержании двух человек, которых обвиняют в создании и публикации порнографии с ИИ-генерацией deepfake с нарушением закона TAKE IT DOWN. В деле, по версии Минюста, речь идет о несанкционированном «вторжении» и использовании ИИ-изображений для имитации личности без согласия.

Прокуроры США заявили о задержании двух лиц, которых обвиняют в публикации порнографии с ИИ deepfake в нарушение закона TAKE IT DOWN. В Минюсте подчеркивают, что вред в этом деле связан с несанкционированным присвоением личности, а генеративный ИИ лишь усиливает масштаб и скорость распространения. Как утверждает ведомство, обвиняемые якобы создавали и распространяли порнографический контент с помощью сгенерированных ИИ изображений, а не в рамках согласованного участия. Отдельно отмечается, что использование синтетических материалов может резко повышать и охват, и правдоподобие злоупотреблений: преступникам проще нацеливаться на жертв, а барьеры для изготовления нового материала снижаются. Минюст также указывает, что операции с deepfake могут быть частью более широкой схемы вымогательства или принуждения: жертву могут заставлять действовать после того, как контент угрожают опубликовать, слить или распространить, чтобы изолировать человека и добиться нужного поведения. Применение закона TAKE IT DOWN в рамках этого дела демонстрирует, что федеральное преследование будет нацелено не только на удаление контента, но и на установление ответственности создателей и распространителей явного ИИ-материала. Для потенциальных жертв и пользователей платформ паттерн риска, как отмечается, напоминает другие преступления на основе подмены личности: манипулирование идентичностью, психологическое давление и быстрое развитие ситуации. Данный кейс также подчеркивает, что злоупотребления с ИИ могут квалифицироваться как уголовно наказуемые даже тогда, когда изначально схема не похожа на классическое «финансовое мошенничество», поскольку имитация личности и распространение вредоносного синтетического контента могут образовывать состав преступления.