Расследование Microsoft связало сообщения, созданные с помощью ИИ, с попытками мошенничества при проведении деловых платежей. По данным компании, злоумышленники выдавали себя за руководителей, чтобы убедить сотрудников санкционировать переводы на суммы, близкие к 50 000 долларов.

В отчёте Microsoft Security подробно описано, как злоумышленники сочетают подмену личности руководителей с инструментами искусственного интеллекта для атак на корпоративные платёжные процессы. По имеющимся данным, кампания сгенерировала более миллиона электронных писем, связанных с финансовым мошенничеством, и пыталась убедить сотрудников отделов кредиторской задолженности в том, что платёжные инструкции исходят от руководителей компаний. Среди запрошенных операций были ACH-платежи почти на 50 000 долларов, что создаёт прямой риск значительных убытков для организаций, полагающихся на согласование платежей по электронной почте. Такая схема соответствует распространённой модели компрометации деловой электронной почты, однако ИИ позволяет делать сообщения более убедительными и персонализированными, а также быстро создавать их в больших объёмах. Компаниям следует требовать независимого подтверждения необычных платёжных запросов, особенно если они связаны с секретностью, срочностью, новыми получателями или изменением банковских реквизитов. Финансовым подразделениям также необходимо использовать двухэтапное согласование, лимиты на операции, устойчивую к фишингу аутентификацию и постоянный мониторинг подозрительной активности в почтовых ящиках.