La Comisión Europea abrió una investigación formal en virtud de la Ley de Servicios Digitales sobre X de Elon Musk y su chatbot de IA Grok después de que investigadores descubrieran millones de imágenes sexualizadas o no consentidas, algunas posiblemente con menores. Los reguladores evaluarán si X evaluó y mitigó adecuadamente los riesgos y si sus límites sobre la edición de imágenes de Grok fueron suficientes.

La Comisión Europea, el 26 de enero de 2026, inició una investigación formal en virtud del Digital Services Act sobre X tras informes de investigadores que indicaban que Grok, el chatbot de IA de la plataforma, generó millones de imágenes sexualizadas y potencialmente no consentidas, incluido material que podría involucrar a menores. La indagación examinará si X identificó, evaluó y mitigó los riesgos sistémicos planteados por la IA generativa y si las medidas técnicas y de política de la empresa impidieron eficazmente la producción y difusión de imágenes perjudiciales. Los reguladores de la UE también determinarán si se cumplieron las obligaciones de transparencia, moderación de contenidos y seguridad de los usuarios bajo la DSA, y si existían procedimientos de remediación y notificación rápidos. Los resultados potenciales incluyen acciones correctivas obligatorias, requisitos para cambiar modelos o controles y multas por incumplimiento. La investigación señala un escrutinio intensificado por parte de las autoridades europeas sobre las herramientas de IA integradas en grandes plataformas sociales y pone de relieve preocupaciones transfronterizas sobre los medios sintéticos, el consentimiento y la protección infantil. La investigación complementa los debates más amplios en Europa sobre cómo la DSA debería gobernar los servicios emergentes de IA generativa integrados en las redes sociales.