A Comissão Europeia abriu uma investigação formal ao abrigo da Lei de Serviços Digitais sobre a implantação do Grok pela X, depois que pesquisadores e reguladores descobriram que a ferramenta de IA gerou e disseminou imagens sexualizadas sem consentimento, incluindo imagens que podem envolver crianças. A apuração avaliará se a X identificou e mitigou adequadamente os riscos ligados ao Grok e aos sistemas de recomendação da X.

A Comissão Europeia anunciou uma investigação formal ao abrigo da Lei de Serviços Digitais (Digital Services Act - DSA) sobre o X, centrada em seu assistente de IA Grok e nos sistemas de recomendação relacionados, depois que pesquisadores e agências regulatórias sinalizaram a geração e distribuição de imagens deepfake sexualizadas não consensuais na plataforma. Autoridades da UE disseram que parte do conteúdo em análise pode envolver imagens que retratam menores ou que sejam de outra forma exploratórias, suscitando preocupações agudas sobre danos graves aos usuários e sobre a adequação das avaliações de risco sistêmico do X, das salvaguardas de moderação de conteúdo e das medidas de mitigação. A investigação examinará se o X realizou as análises de risco exigidas antes e depois de implantar o Grok, como os algoritmos de recomendação da empresa amplificaram resultados nocivos e se os mecanismos de notificação e remoção, detecção e prevenção cumprem as obrigações da DSA. A ação segue movimentos regulatórios paralelos em vários países e um escrutínio público crescente sobre a segurança da IA generativa, imagens não consensuais e a responsabilização das plataformas. A inquérito formal da Comissão pode resultar em ordens de reparação e multas significativas se o X for considerado responsável por falhas em seus deveres legais sob as regras europeias de serviços digitais.