Google wirft einer in China ansässigen Gruppe vor, Gemini AI genutzt zu haben, um Phishing-Websites zu erstellen und betrügerische SMS zu versenden, die bekannte Dienste imitieren. In der Klageschrift wird zudem beschrieben, wie die Täter die Zustellung der Nachrichten und die spätere Monetarisierung der Betrugsmaschen koordiniert haben.

Google hat eine Klage eingereicht, in der es behauptet, eine in China operierende Betrugsgruppe habe Gemini AI sowohl zur Unterstützung der Infrastruktur als auch zur groß angelegten Auslieferung von Betrug eingesetzt. Im Zentrum der Vorwürfe steht, dass die Angeklagten die KI dabei geholfen haben sollen, Phishing-Websites zu bauen, bevor sie anschließend gefälschte Texte an potenzielle Opfer schickten. Anders als bei bloßem, wenig aufwendigem Spam soll die Kampagne auf das Imitieren vertrauenswürdiger Marken und Dienste gesetzt haben, um die Klickrate und die Bereitschaft der Empfänger zur Interaktion zu erhöhen. Die Darstellung in der Klage beschreibt ein strukturiertes und abgestimmtes Vorgehen: Dazu gehören auch Aspekte, die betreffen, wie die Nachrichten an Empfänger gelangten, sowie wie die Scams finanziell verwertet wurden, nachdem die Opfer zu den schädlichen Seiten weitergeleitet worden waren. Die angebliche Verwendung von Gemini gilt als besonders relevant, weil sie nahelegt, dass die Angreifer generative-KI-Funktionen einsetzten, um die Erstellung der Inhalte zu vereinfachen und das Erscheinungsbild der Betrugsunterlagen zu verbessern. Für Verbraucher können solche Maschen schwer als betrügerisch zu erkennen sein, insbesondere wenn die Nachrichten aktuelle Ereignisse, Kontoinformationen oder andere Themen aufgreifen, die typischerweise bei Identitäts- und Maskierungsangriffen genutzt werden. Die Klage zeigt außerdem, dass KI-gestütztes Phishing zunehmend ein gerichtlich zu verhandelndes und für Durchsetzung zuständiger Behörden relevantes Risiko ist. Insgesamt macht der Fall deutlich, wie Betrüger automatisierte Nachrichtenzustellung mit Phishing-Funnels kombinieren können, um Identitätsdiebstahl, Kontoübernahmen oder weitere nachgelagerte Betrugsversuche anzustoßen.