Des reportages d'investigation révèlent que des organisations extrémistes utilisent des outils avancés de clonage vocal et de synthèse vocale pour produire des contenus audio multilingues, émotionnellement percutants, et des livres audio qui étendent leurs efforts de recrutement. Des experts avertissent que les plateformes et les régulateurs peinent à suivre le rythme de l'adoption rapide et de la distribution amplifiée sur les réseaux sociaux.

L'enquête du Guardian documente une tendance croissante : les mouvements extrémistes et les organes de propagande utilisent de plus en plus le clonage de voix par IA et les systèmes de synthèse vocale (TTS) pour créer des contenus audio persuasifs adaptés à différentes langues et audiences. En produisant des narrations de haute qualité, des discours et des livres audio long format qui imitent des voix fiables ou des figures charismatiques, ces groupes peuvent donner au contenu radical une apparence plus légitime et un impact émotionnel renforcé. Le rapport identifie une gamme d'outils et de plateformes de diffusion — depuis les modèles TTS ouverts jusqu'aux cloneurs de voix commerciaux — qui réduisent les coûts et les délais de production tout en permettant une large diffusion sur les réseaux sociaux, les applications de messagerie et les sites de partage de fichiers. Les chercheurs indiquent que le résultat est une pénétration plus profonde au sein de communautés auparavant moins sensibles au seul contenu écrit, compliquant la modération des contenus et les efforts de lutte contre l'extrémisme. Les experts demandent d'accélérer les cadres réglementaires, d'exiger la transparence des plateformes sur le contenu synthétique et d'investir dans des outils de détection, tout en soulignant que les suppressions seules sont insuffisantes sans résilience communautaire et contre‑récits multilingues. L'article met en évidence un fossé entre l'adoption technologique rapide par les acteurs malveillants et les réponses plus lentes des politiques et de l'industrie.