Eine Untersuchung von Microsoft brachte KI-gestützte Nachrichten mit versuchtem Zahlungsbetrug im Geschäftsbereich in Verbindung. Die Kampagne soll die Identität von Führungskräften vorgetäuscht haben, um Mitarbeitende zur Freigabe von Überweisungen von nahezu 50.000 US-Dollar zu bewegen.

Ein Bericht von Microsoft Security beschreibt, wie Angreifer die Imitation von Führungskräften mit Werkzeugen der künstlichen Intelligenz kombinieren, um auf Zahlungsprozesse von Unternehmen abzuzielen. Die Kampagne soll mehr als eine Million E-Mails mit dem Ziel des Finanzbetrugs erstellt und Mitarbeitende in der Kreditorenbuchhaltung davon zu überzeugen versucht haben, dass die Zahlungsanweisungen von Unternehmensleitern stammten. Zu den angeforderten Transaktionen gehörten ACH-Zahlungen von fast 50.000 US-Dollar, wodurch für Unternehmen, die auf Genehmigungen per E-Mail angewiesen sind, ein unmittelbares Risiko erheblicher Verluste entstand. Das Betrugsmuster entspricht dem Vorgehen beim Business Email Compromise (BEC); KI kann Nachrichten jedoch sprachlich ausgefeilter und individueller gestalten und ihre massenhafte Erstellung erleichtern. Unternehmen sollten ungewöhnliche Zahlungsanfragen unabhängig bestätigen lassen, insbesondere wenn sie Geheimhaltung oder Dringlichkeit verlangen, neue Zahlungsempfänger betreffen oder geänderte Bankverbindungen enthalten. Finanzteams sollten außerdem das Vier-Augen-Prinzip, Transaktionslimits, phishing-resistente Authentifizierung und eine kontinuierliche Überwachung auf verdächtige Aktivitäten in Postfächern einsetzen.