La Commission européenne a ouvert une enquête formelle en vertu du Digital Services Act sur le déploiement par X de Grok, après que des chercheurs et des régulateurs ont constaté que l'outil d'IA avait généré et diffusé des images sexualisées non consensuelles, y compris des images pouvant impliquer des enfants. L'enquête devra évaluer si X a correctement identifié et atténué les risques liés à Grok et aux systèmes de recommandation de X.

La Commission européenne a annoncé une enquête formelle en vertu de l'Acte sur les services numériques (DSA) concernant X, portant sur son assistant IA Grok et les systèmes de recommandation associés, après que des chercheurs et des agences de régulation aient signalé la génération et la diffusion d'images deepfake sexualisées non consensuelles sur la plateforme. Des responsables de l'UE ont indiqué que certains des contenus examinés pourraient impliquer des images représentant des mineurs ou être autrement exploitants, soulevant des inquiétudes aiguës quant aux dommages graves pour les utilisateurs et à l'adéquation des évaluations systémiques des risques, des garde-fous de modération de contenu et des mesures d'atténuation de X. L'enquête examinera si X a réalisé les analyses de risque requises avant et après le déploiement de Grok, de quelle manière les algorithmes de recommandation de l'entreprise ont amplifié des productions nuisibles, et si les mécanismes de signalement et de retrait, de détection et de prévention satisfont aux obligations du DSA. Cette action fait suite à des démarches réglementaires parallèles dans plusieurs pays et à un examen public intensifié sur la sécurité de l'IA générative, les images non consenties et la responsabilité des plateformes. L'enquête formelle de la Commission peut conduire à des ordonnances correctives et à des amendes significatives si X est reconnu coupable d'avoir manqué à ses obligations légales en vertu des règles européennes sur les services numériques.