Генеральный прокурор Калифорнии предупреждает: преступники продвигают мошеннические инвестиционные предложения в Meta через поддельные объявления и видеоролики с AI-deepfake, выдавая себя за узнаваемых людей и компании. Уведомление делает акцент на предотвращении финансового и идентификационного ущерба, который возникает из‑за имперсонации.

Генеральный прокурор Калифорнии Роб Бонта выпустил уведомление для потребителей о мошеннических инвестиционных схемах, которые продвигаются на платформах Meta с использованием AI-deepfake. В сообщении говорится, что злоумышленники создают убедительный видеоконтент и размещают его вместе с обманчивой рекламой, чтобы выдавать себя за публичных лиц или бизнес‑представителей. Используя инструменты таргетинга и механики вовлечения внутри соцсетей, мошенники пытаются достучаться до потенциальных жертв через Facebook, Instagram и WhatsApp, где пользователь может увидеть материал так, будто он является официальным или лично поддержан имперсонируемым лицом. В центре внимания — типовой сценарий вреда: мошенники подталкивают жертв к финансовым действиям, включая отправку денег или передачу чувствительной информации, после того как видимость легитимности создается с помощью подмененных медиаматериалов. Отдельно отмечается, что deepfake способны снижать настороженность и имитировать «авторитет», из‑за чего привычные проверки уровня «выглядит правдоподобно» становятся менее надежными. Для людей, которые хотят обезопасить себя, в предупреждении подразумеваются практические меры: с повышенным подозрением относиться к инвестиционным заявлениям, подкрепленным материалами с имперсонацией; не отправлять средства в ответ на незапрошенные рекламные предложения; и перепроверять информацию через независимые официальные источники. В целом это прямое уведомление властей США о том, как генеративный ИИ используется для ускорения инвестиционного мошенничества через крупные социальные сети.