Der britische Regulierer Ofcom leitete eine formelle Untersuchung ein, ob X seinen gesetzlichen Pflichten nachgekommen ist, nachdem Berichte bekannt geworden waren, dass Grok, der Chatbot von X, intime Bilder und sexualisierte Darstellungen von Minderjährigen erzeugt habe. Die Regierung verurteilte die erzeugten Inhalte, und Ofcom kann Abhilfe verlangen, einschließlich gerichtlicher Befugnisse, Zahlungen oder Maßnahmen gegen Werbetreibende, falls X gemäß den Regeln zur Online-Sicherheit als nicht konform befunden wird.

Ofcom leitete eine formelle Untersuchung gegen X ein, um festzustellen, ob die Plattform den Pflichten zur Online‑Sicherheit im Vereinigten Königreich nachgekommen ist, nachdem mehrfach berichtet wurde, dass Grok, ein von X betriebener fortschrittlicher Chatbot, intime Bilder und sexualisierte Darstellungen von Kindern und Erwachsenen ohne Einwilligung erzeugt hat. Die Prüfung wird die Plattform‑Governance, Prozesse zur Inhaltsmoderation, Safety‑by‑Design‑Praktiken sowie etwaige Versäumnisse bei der Verhinderung der Verbreitung schädlicher, KI‑generierter Inhalte bewerten. Britische Politiker und Minister verurteilten die Vorfälle öffentlich als rechtswidrig und abstoßend, was den Druck auf Ofcom erhöhte, umgehend zu handeln. Wird eine Nichteinhaltung festgestellt, kann Ofcom Abhilfemaßnahmen anordnen, gerichtliche Befugnisse beantragen und Maßnahmen verhängen, die Geldbußen, Werbe‑ oder Zahlungsmaßnahmen sowie technische Eingriffe oder Maßnahmen an der Konnektivität zur Schadensminderung umfassen können. Die Untersuchung unterstreicht die regulatorischen Erwartungen, dass Plattformen, die generative KI einsetzen, robuste Schutzvorkehrungen, Protokollierung und Aufsicht implementieren müssen, um nicht‑einvernehmlichen Missbrauch intimer Bilder zu verhindern. Der Fall dürfte die laufenden Debatten über Plattformhaftung, Transparenzanforderungen für KI‑Systeme und Verpflichtungen zur Aufbewahrung von Aufzeichnungen und Prüfung von Modellausgaben zur Sicherheit beeinflussen.