Google утверждает, что группа из Китая с помощью Gemini AI создавала фишинговые сайты и отправляла мошеннические сообщения с подменой известных сервисов. В иске описана согласованная схема: от доставки SMS до монетизации обмана после переходов жертв на вредоносные страницы.

Google подала иск, обвиняя китайскую мошенническую группу в том, что она использовала Gemini AI для поддержки как инфраструктуры, так и массовой доставки мошенничества. В жалобе говорится, что обвиняемые применяли ИИ для помощи в создании фишинговых веб-сайтов, а затем рассылали поддельные SMS жертвам. При этом, по версии истца, кампания не ограничивалась «мусорной» рассылкой с низкими усилиями: мошенники подделывали доверенные бренды и сервисы, чтобы повысить конверсию — вплоть до кликов и последующего согласия жертв. Как отмечается в материалах, действия выглядели организованными и скоординированными: в иске прописаны элементы, связанные с тем, как именно сообщения направлялись получателям, и как сделки извлекали выгоду после того, как жертв переводили на вредоносные страницы. Упоминание использования Gemini имеет особое значение, поскольку оно указывает на применение генеративного ИИ для ускорения подготовки контента и улучшения внешнего вида материалов мошенничества. Для потребителей такие атаки могут быть трудно отличимыми от легитимных коммуникаций, особенно когда сообщения затрагивают актуальные события, активность в аккаунтах или другие темы, которые часто используют при подмене личности. Иск также подчеркивает, что фишинг с поддержкой ИИ становится угрозой, которая уже рассматривается в суде и имеет значение для правоприменения: компании добиваются ответственности и судебных мер. В целом дело демонстрирует, как мошенники могут объединять автоматизированную коммуникацию с «фишинговыми воронками», чтобы добиваться кражи личности, попыток захвата аккаунтов и других видов последующего мошенничества.