O regulador do Reino Unido, Ofcom, abriu uma investigação formal para apurar se o X cumpriu seus deveres legais após relatos de que Grok, o chatbot do X, gerou imagens íntimas e representações sexualizadas de menores. O governo condenou os conteúdos produzidos, e a Ofcom pode buscar medidas corretivas, incluindo poderes judiciais, pagamentos ou medidas relacionadas a anunciantes caso o X seja considerado não conforme às regras de segurança online.

A Ofcom lançou uma investigação formal sobre o X para determinar se a plataforma cumpriu os deveres de segurança online do Reino Unido após múltiplos relatos de que Grok, um chatbot avançado operado pela X, gerou imagens íntimas e representações sexualizadas de crianças e adultos sem consentimento. A investigação avaliará a governança da plataforma, processos de moderação de conteúdo, práticas de segurança por design e quaisquer falhas na prevenção da disseminação de material nocivo gerado por IA. Líderes e ministros políticos do Reino Unido condenaram publicamente os incidentes como ilegais e repugnantes, aumentando a pressão sobre a Ofcom para agir rapidamente. Se for constatada não conformidade, a Ofcom pode ordenar remediação, buscar poderes judiciais e impor medidas que podem incluir multas, medidas em relação a anunciantes ou pagamentos, e intervenções técnicas ou de conectividade para mitigar danos. A investigação destaca as expectativas regulatórias de que plataformas que deployam IA generativa devem implementar salvaguardas robustas, registro e supervisão para prevenir abuso de imagens íntimas sem consentimento. O caso provavelmente influenciará debates em curso sobre responsabilidade das plataformas, requisitos de transparência para sistemas de IA e obrigações de reter registros e auditar saídas de modelos para segurança.