Le gouvernement britannique travaillera avec Microsoft, des universitaires et des experts pour élaborer des normes et un cadre d'évaluation pour des outils détectant les contenus deepfake générés par l'IA. Les responsables ont présenté cette initiative comme faisant partie d'une démarche plus large visant à établir des normes techniques et politiques cohérentes afin de contrer des criminels qui se servent de contenus manipulés comme d'une arme.

Le Royaume-Uni a annoncé une initiative publique-privée visant à créer un cadre d'évaluation normalisé et des normes techniques pour les outils de détection de deepfakes, en partenariat avec Microsoft, des chercheurs universitaires et des experts du domaine. Des responsables gouvernementaux ont évoqué une inquiétude croissante quant au fait que des enregistrements audio et vidéo manipulés sont utilisés comme armes par des criminels pour commettre des fraudes, diffuser de la désinformation et saper la confiance du public. Le cadre vise à fournir des métriques convenues, des jeux de données de test et des méthodes d'évaluation afin que les développeurs, les équipes d'approvisionnement et les régulateurs puissent comparer les détecteurs sur des bases cohérentes. Les organisateurs ont déclaré que le projet abordera également des contraintes opérationnelles telles que les taux de faux positifs, la robustesse face aux attaques adversariales et les défis de déploiement dans le monde réel sur différentes plates-formes et appareils. L'initiative est présentée comme complémentaire au travail politique sur les contenus nuisibles générés par l'IA, au partage de preuves avec les forces de l'ordre et à la collaboration internationale, tout en évitant de s'appuyer sur des régimes d'évaluation propriétaires et fermés. En alignant l'évaluation technique sur les attentes réglementaires, le Royaume-Uni espère accélérer la mise au point d'outils de détection fiables pouvant être adoptés par l'industrie, les médias et les organismes publics pour atténuer la montée de la fraude par médias synthétiques et protéger les consommateurs et les institutions.