Microsoft hat eine Kampagne beschrieben, bei der generative KI zur groß angelegten Imitation von Führungskräften und für Rechnungsbetrug eingesetzt wurde. Die Angreifer zielten auf Mitarbeiter in der Kreditorenbuchhaltung und forderten sie auf, hohe ACH-Zahlungen zu genehmigen.

Microsoft berichtete über eine Kampagne mit mehr als einer Million E-Mails, die mit Finanzbetrug in Verbindung standen. Die Angreifer sollen KI-gestützte Methoden eingesetzt haben, um sich als Führungskräfte von Unternehmen auszugeben und Mitarbeiter in der Kreditorenbuchhaltung zur Genehmigung nicht autorisierter Zahlungen zu drängen. In einigen Fällen näherten sich die geforderten ACH-Überweisungen 50.000 US-Dollar. Die Kampagne zeigt, wie Kriminelle generative KI nutzen können, um überzeugende Nachrichten in deutlich größerem Umfang zu erstellen und dabei vertraute Taktiken des Business-E-Mail-Compromise beizubehalten – etwa Dringlichkeit, Vertraulichkeit und das Ausüben von Autorität. Unternehmen sollten Zahlungsanweisungen per E-Mail grundsätzlich als nicht vertrauenswürdig behandeln, bis sie unabhängig überprüft wurden. Für die Verifizierung sollte eine bekannte Telefonnummer oder ein separater Kommunikationskanal genutzt werden, anstatt auf die ursprüngliche Nachricht zu antworten. Unternehmen können das Risiko außerdem durch Multifaktor-Authentifizierung, Kontrollmechanismen für Zahlungsfreigaben, die Überwachung von Domains, Mitarbeiterschulungen und Warnmeldungen bei ungewöhnlichen Änderungen von Lieferanten- oder Bankkontodaten reduzieren.