Microsoft описала кампанию, в которой генеративный ИИ использовался для масштабирования подмены руководителей и мошенничества со счетами. Злоумышленники атаковали сотрудников, отвечающих за платежи, требуя согласовать крупные переводы ACH.

Microsoft сообщила о кампании, связанной с финансовым мошенничеством и более чем миллионом электронных писем. По данным компании, злоумышленники применяли методы с использованием ИИ, чтобы выдавать себя за руководителей организаций и убеждать сотрудников, отвечающих за платежи, одобрять несанкционированные переводы. В некоторых случаях запрашиваемые переводы ACH приближались к $50 000. Кампания показывает, как преступники могут использовать генеративный ИИ для создания убедительных сообщений в значительно большем масштабе, сохраняя при этом привычные тактики компрометации деловой электронной почты — срочность, конфиденциальность и давление авторитетом. Организациям следует считать инструкции по оплате, полученные по электронной почте, ненадежными, пока они не будут независимо проверены. Проверку необходимо проводить по известному номеру телефона или через отдельный канал связи, а не отвечая на исходное сообщение. Компании также могут снизить риски с помощью многофакторной аутентификации, процедур согласования платежей, мониторинга доменов, обучения сотрудников и оповещений о необычных изменениях данных поставщиков или банковских счетов.