В AI Hub McAfee сообщается, что доступные потребителям инструменты клонирования голоса вызывают волну правдоподобных мошенничеств типа «внук в беде» и просьб о помощи от родственников, и многие люди не в состоянии надежно отличить склонированный голос от настоящего. Анализ предупреждает, что преступники используют такие аудиозаписи в вишинге и смишинге, чтобы получить подарочные карты, банковские переводы или криптовалюту, создавая ощущение неотложности и обходя обычные процедуры проверки.

Анализ McAfee и соответствующие отраслевые опросы документируют заметное увеличение злоупотреблений клонированием голоса, поскольку доступные инструменты ИИ создают реалистичные аудиоподделки голосов членов семьи и близких контактов. Исследователи обнаружили, что злоумышленники могут синтезировать короткие эмоционально настоятельные записи, убеждающие жертв перевести деньги, одобрить платежи или раскрыть учетные данные; многие потребители и даже некоторые учреждения испытывают затруднения при различении аудио, созданного ИИ, и подлинных записей. В отчете выделены типичные схемы мошенничества: первоначальный дипфейк-звонок или голосовое сообщение с утверждением, что родственник находится в непосредственной опасности, последующее давление с требованием отправить средства через подарочные карты, банковские переводы или криптовалюту, а также техники социальной инженерии, использующие чувство срочности, замешательство и нежелание советоваться с другими. McAfee рекомендует многоуровневую защиту, включая политики проверки исходящих звонков, многофакторное подтверждение через видео или известные контрольные фразы, кампании по повышению осведомленности публики и средства поставщиков для обнаружения синтетического аудио. Заинтересованные стороны отрасли призывают компании, которые управляют коммуникационными платформами, отмечать необычные потоки платежей и регуляторов обновить рекомендации по аутентификации на основе голоса. В анализе подчеркивается, что технологические средства обнаружения и просвещение потребителей должны развиваться одновременно, чтобы смягчить быстрое милитаризование инструментов синтеза голоса.