Google alega que un grupo con base en China utilizó Gemini AI para crear sitios de phishing y enviar mensajes fraudulentos haciéndose pasar por servicios conocidos. La demanda describe una coordinación que abarca tanto la entrega de los textos como la monetización de los fraudes.

Google presentó una demanda en la que sostiene que una operación de estafas con sede en China empleó Gemini AI para respaldar la infraestructura y la distribución de fraudes a gran escala. El escrito se centra en la acusación de que los demandados habrían usado la IA para ayudar a crear páginas de phishing y, después, enviaron textos falsos a las víctimas. En lugar de limitarse a spam de bajo esfuerzo, la campaña supuestamente imitaba marcas y servicios confiables para elevar las tasas de clics y aumentar la probabilidad de que las personas actuaran conforme a las indicaciones del engaño. Según el relato, el comportamiento se describe como organizado y coordinado, con componentes ligados a cómo se empujaban los mensajes a los destinatarios y a cómo se monetizaban los fraudes una vez que las víctimas eran redirigidas a las páginas maliciosas. La presunta utilización de Gemini es especialmente relevante porque sugiere que los atacantes habrían aprovechado capacidades de IA generativa para agilizar la creación de contenido y mejorar el aspecto de los materiales de la estafa. Para los consumidores, este tipo de mensajes puede resultar difícil de distinguir de comunicaciones legítimas, sobre todo cuando se refieren a acontecimientos actuales, actividad de cuentas u otros temas habituales en ataques de suplantación. La demanda también pone de relieve que el phishing habilitado con IA está convirtiéndose en una amenaza que llega a los tribunales, mientras las empresas buscan responsabilidad y medidas de reparación ordenadas por el juez. En conjunto, el caso subraya cómo los estafadores pueden combinar el envío automatizado de mensajes con embudos de phishing para impulsar robos de identidad, intentos de toma de cuentas y otras formas de fraude posterior.