La Comisión Europea abrió una investigación formal en virtud de la Ley de Servicios Digitales sobre el despliegue de Grok por parte de X después de que investigadores y reguladores hallaran que la herramienta de IA generó y difundió imágenes sexualizadas sin consentimiento, incluidas imágenes que podrían involucrar a menores. La investigación evaluará si X identificó y mitigó adecuadamente los riesgos vinculados a Grok y a los sistemas de recomendación de X.

La Comisión Europea anunció una investigación formal en virtud de la Ley de Servicios Digitales (DSA) sobre X, centrada en su asistente de IA Grok y los sistemas de recomendación relacionados, después de que investigadores y agencias reguladoras alertaran sobre la generación y distribución en la plataforma de imágenes deepfake sexualizadas no consentidas. Funcionarios de la UE dijeron que parte del contenido bajo escrutinio podría implicar imágenes que representan a menores o que son explotadoras de otro modo, lo que suscita preocupaciones agudas sobre daños graves a los usuarios y sobre la adecuación de las evaluaciones de riesgo sistémico de X, las salvaguardias de moderación de contenido y las medidas de mitigación. La investigación examinará si X realizó los análisis de riesgos requeridos antes y después de desplegar a Grok, cómo los algoritmos de recomendación de la empresa amplificaron resultados dañinos y si los mecanismos de notificación y retirada, detección y prevención cumplen con las obligaciones de la DSA. La acción se produce tras movimientos regulatorios paralelos en varios países y una creciente atención pública sobre la seguridad de la IA generativa, las imágenes no consentidas y la responsabilidad de las plataformas. La indagación formal de la Comisión puede dar lugar a órdenes correctivas y multas significativas si se determina que X no cumplió con sus deberes legales bajo las normas europeas sobre servicios digitales.