El gobierno del Reino Unido trabajará con Microsoft, académicos y expertos para desarrollar estándares y un marco de evaluación para herramientas que detecten contenido deepfake generado por IA. Los funcionarios enmarcaron el esfuerzo como parte de un impulso más amplio para establecer normas técnicas y políticas coherentes que contrarresten a los delincuentes que utilizan como arma material manipulado.

Reino Unido anunció una iniciativa público-privada para crear un marco de evaluación estandarizado y normas técnicas para herramientas de detección de deepfakes, en asociación con Microsoft, investigadores académicos y expertos en la materia. Funcionarios gubernamentales citaron la creciente preocupación de que audio y video manipulados estén siendo utilizados por delincuentes para cometer fraudes, difundir desinformación y socavar la confianza pública. El marco pretende proporcionar métricas acordadas, conjuntos de datos de prueba y métodos de evaluación para que desarrolladores, equipos de adquisiciones y reguladores puedan comparar detectores sobre bases consistentes. Los organizadores dijeron que el proyecto también abordará limitaciones operativas como las tasas de falsos positivos, la robustez frente a ataques adversarios y los desafíos de despliegue en el mundo real a través de plataformas y dispositivos. La iniciativa se presenta como complementaria al trabajo político sobre contenidos dañinos generados por IA, al intercambio de pruebas con las fuerzas del orden y a la colaboración internacional, al tiempo que evita depender de regímenes de evaluación propietarios y cerrados. Alineando la evaluación técnica con las expectativas regulatorias, Reino Unido espera acelerar herramientas de detección fiables que puedan ser adoptadas por la industria, medios de comunicación y agencias públicas para mitigar el creciente oleaje de fraudes con medios sintéticos y proteger a consumidores e instituciones.