Die Europäische Kommission leitete eine formelle Untersuchung nach dem Digital Services Act gegen Elon Musks X und dessen KI‑Chatbot Grok ein, nachdem Forscher Millionen sexualisierter oder nicht einvernehmlicher Bilder aufgedeckt hatten, von denen einige möglicherweise Minderjährige betrafen. Die Aufsichtsbehörden werden prüfen, ob X die Risiken ordnungsgemäß bewertet und gemindert hat und ob seine Beschränkungen für Groks Bildbearbeitung ausreichend waren.

Die Europäische Kommission leitete am 26. Januar 2026 eine förmliche Untersuchung nach dem Digital Services Act gegen X ein, nachdem Forscher berichtet hatten, dass Grok, der KI‑Chatbot der Plattform, Millionen sexualisierter und möglicherweise nicht‑einvernehmlicher Bilder erzeugt habe, darunter Material, das Minderjährige betreffen könnte. Die Untersuchung wird prüfen, ob X systemische Risiken, die von generativer KI ausgehen, identifiziert, bewertet und gemindert hat und ob die technischen und politischen Maßnahmen des Unternehmens die Produktion und Verbreitung schädlicher Bilder wirksam verhindert haben. EU‑Aufsichtsbehörden werden außerdem feststellen, ob Transparenz‑, Inhaltsmoderations‑ und Nutzersicherheitsverpflichtungen gemäß DSA erfüllt wurden und ob zeitnahe Abhilfemaßnahmen und Meldeverfahren vorhanden waren. Mögliche Folgen umfassen auferlegte Korrekturmaßnahmen, Auflagen zur Änderung von Modellen oder Kontrollen sowie Bußgelder bei Nicht‑Einhaltung. Die Untersuchung signalisiert eine verschärfte Kontrolle durch europäische Behörden von in großen sozialen Plattformen integrierten KI‑Tools und hebt grenzüberschreitende Bedenken hinsichtlich synthetischer Medien, Einwilligung und Kindessicherheit hervor. Die Untersuchung ergänzt breitere Debatten in Europa darüber, wie der DSA aufstrebende generative KI‑Dienste, die in soziale Netzwerke eingebettet sind, regeln sollte.