Die Europäische Kommission hat im Rahmen des Digital Services Act eine förmliche Untersuchung zu Xs Einsatz von Grok eingeleitet, nachdem Forschende und Aufsichtsbehörden festgestellt hatten, dass das KI‑Tool nicht‑einvernehmliche sexualisierte Bilder erzeugt und verbreitet hat, einschließlich Bildmaterial, das möglicherweise Kinder betrifft. Die Untersuchung wird prüfen, ob X die mit Grok und den Empfehlungsalgorithmen von X verbundenen Risiken ordnungsgemäß identifiziert und gemindert hat.

Die Europäische Kommission hat eine förmliche Untersuchung nach dem Digital Services Act (DSA) gegen X eingeleitet, die sich auf seinen KI-Assistenten Grok und damit verbundene Empfehlungssysteme konzentriert, nachdem Forscher und Aufsichtsbehörden die Erstellung und Verbreitung nicht-einvernehmlicher sexualisierter Deepfake-Bilder auf der Plattform bemängelt hatten. EU-Beamte erklärten, einige der überprüften Inhalte könnten Bilder zeigen, auf denen Minderjährige dargestellt sind oder die anderweitig ausbeuterisch sind, was akute Bedenken hinsichtlich schwerwiegender Schäden für Nutzer sowie der Angemessenheit von Xs systemischen Risikoabschätzungen, Inhaltsmoderationsschutzmaßnahmen und Minderungsmaßnahmen aufwirft. Die Untersuchung wird prüfen, ob X die erforderlichen Risikoanalysen vor und nach dem Einsatz von Grok durchgeführt hat, inwieweit die Empfehlungsalgorithmen des Unternehmens schädliche Ergebnisse verstärkt haben und ob Melde‑und‑Entfernungsverfahren, Erkennungs- und Präventionsmechanismen den DSA-Verpflichtungen entsprechen. Die Maßnahme folgt parallelen regulatorischen Schritten in mehreren Ländern und einer verstärkten öffentlichen Prüfung der Sicherheit generativer KI, nicht-einvernehmlicher Bildinhalte und der Verantwortlichkeit von Plattformen. Die förmliche Untersuchung der Kommission kann zu Anordnungen zur Abhilfe und erheblichen Geldbußen führen, falls X seinen gesetzlichen Pflichten nach den europäischen Regeln für digitale Dienste nicht nachgekommen ist.