El Ministerio de Justicia de Alemania dijo que propondrá medidas y cambios legales para abordar mejor la manipulación a gran escala de imágenes por IA que viola derechos personales. La medida se produce tras informaciones de que la herramienta de imágenes de X se utilizó para crear imágenes explícitas no consentidas y señala una regulación más rápida de los deepfakes en toda Europa.

Alemania anunció planes para redactar cambios legales y medidas concretas destinadas a combatir la manipulación dañina de imágenes generadas por IA, comúnmente conocida como deepfakes, después de que las investigaciones revelaran que la herramienta de imágenes de X se había utilizado para crear imágenes sexuales explícitas y no consensuadas. El ministerio de Justicia dijo el 9 de enero de 2026 que las propuestas se centrarán en proteger los derechos personales, agilizar los mecanismos de retirada, reforzar las penas penales por el uso indebido a gran escala o con fines comerciales y aclarar las responsabilidades de las plataformas. Los funcionarios enfatizaron la necesidad de abordar la “violencia digital” y el rápido despliegue comercial de herramientas generativas de imagen que pueden producir contenido sexual realista sin consentimiento. El anuncio refleja la creciente presión pública y la preocupación transfronteriza en Europa sobre los daños a la privacidad facilitados por la IA, y sigue a investigaciones de reguladores y la sociedad civil sobre cómo las plataformas detectan, previenen y reparan las imágenes no consensuadas. Los legisladores alemanes señalaron cooperación con pares de la UE para armonizar las normas, mientras que las empresas tecnológicas enfrentan un escrutinio sobre la seguridad por diseño, los límites de verificación y los recursos para la moderación de contenido. Las medidas pretenden reducir la victimización, acelerar la aplicación de la ley entre jurisdicciones y proporcionar recursos legales más claros para las personas que son objetivo del abuso de imágenes habilitado por IA.