A Google afirma que um grupo sediado na China usou a IA Gemini para construir sites de phishing e disparar textos fraudulentos se passando por serviços conhecidos. A ação judicial descreve a suposta coordenação entre o envio das mensagens e a monetização dos golpes.

A Google entrou com uma ação judicial alegando que uma operação de fraudes baseada na China utilizou a Gemini para apoiar tanto a infraestrutura quanto a entrega de golpes em grande escala. De acordo com a queixa, os réus teriam usado IA para ajudar a criar páginas de phishing e, em seguida, enviado SMS falsos para as vítimas. Em vez de depender apenas de spam de baixa qualidade, a campanha teria se concentrado em imitar marcas e serviços confiáveis, buscando elevar as taxas de cliques e a disposição das vítimas em seguir as instruções. O material do processo descreve a conduta como organizada e coordenada, incluindo detalhes sobre como as mensagens seriam direcionadas aos destinatários e como os golpes seriam lucrados depois que as pessoas fossem levadas às páginas maliciosas. O uso alegado da Gemini é considerado relevante porque indica que os atacantes estariam usando recursos de IA generativa para agilizar a criação de conteúdo e fazer com que os materiais do golpe pareçam mais convincentes. Para consumidores, esses ataques podem ser difíceis de distinguir de comunicações legítimas, especialmente quando as mensagens fazem referência a acontecimentos recentes, atividade de contas ou outros temas frequentemente explorados em tentativas de personificação. A ação também reforça que o phishing habilitado por IA está se tornando uma ameaça discutida em tribunais e relevante para fiscalização e aplicação da lei, com empresas buscando responsabilização e medidas de reparação determinadas pela Justiça. No conjunto, o caso destaca como criminosos podem combinar comunicações automatizadas com “funis” de phishing para impulsionar roubo de identidade, tentativas de invasão de contas e outros tipos de fraude decorrente.