Google affirme qu’un groupe basé en Chine a utilisé Gemini AI pour créer des sites de phishing et envoyer des SMS frauduleux se faisant passer pour des services connus. La plainte décrit une coordination entre la diffusion des messages et leur monétisation une fois les victimes redirigées vers les pages malveillantes.

Google a déposé une plainte alléguant qu’une opération de fraude basée en Chine a utilisé Gemini AI pour soutenir à la fois l’infrastructure et l’envoi de fraudes à grande échelle. Le dossier met en avant l’idée que les défendeurs auraient eu recours à l’IA pour aider à fabriquer des sites de phishing, puis auraient envoyé de faux SMS aux victimes. L’approche ne se limiterait pas à du spam peu élaboré : la campagne aurait imité des marques et des services de confiance afin d’augmenter le taux de clic et la conformité des destinataires. Selon la plainte, la fraude aurait été présentée comme organisée et coordonnée, avec des éléments liés à la manière dont les messages étaient poussés aux destinataires, ainsi qu’à la monétisation des arnaques une fois les victimes redirigées vers des pages malveillantes. L’usage allégué de Gemini est jugé significatif car il suggère que les attaquants exploiteraient les capacités de l’IA générative pour rationaliser la production de contenu et améliorer l’apparence des supports d’escroquerie. Pour les consommateurs, ces fraudes peuvent être difficiles à distinguer des communications légitimes, notamment lorsque les messages font référence à l’actualité, à une activité de compte ou à d’autres thèmes fréquemment utilisés dans les attaques par usurpation. La procédure souligne aussi que le phishing assisté par l’IA devient une menace faisant l’objet de poursuites et de mesures d’application, des entreprises cherchant la responsabilité et des réparations ordonnées par un tribunal. Dans l’ensemble, l’affaire met en lumière la façon dont des arnaqueurs peuvent combiner la diffusion automatisée de messages et des “funnels” de phishing pour alimenter le vol d’identité, les tentatives de prise de contrôle de comptes ou d’autres fraudes en aval.