Informes de investigación encuentran que organizaciones extremistas están utilizando herramientas avanzadas de clonación de voz y de texto a voz para producir contenido de audio multilingüe y emocionalmente resonante, así como audiolibros que amplían sus esfuerzos de reclutamiento. Los expertos advierten que las plataformas y los reguladores están teniendo dificultades para seguir el ritmo de la rápida adopción y la distribución amplificada a través de las redes sociales.

La investigación de The Guardian documenta una tendencia creciente: los movimientos extremistas y los canales de propaganda emplean cada vez más la clonación de voz mediante IA y los sistemas TTS para crear audio persuasivo adaptado a distintos idiomas y audiencias. Al producir narraciones de alta calidad, discursos y audiolibros extensos que imitan voces de confianza o figuras carismáticas, estos grupos pueden hacer que el contenido radical parezca más legítimo y emocionalmente atractivo. El informe identifica una variedad de herramientas y plataformas de distribución —desde modelos TTS de código abierto hasta clonadores de voz comerciales— que reducen el coste y el tiempo de producción al tiempo que permiten una amplia difusión en redes sociales, aplicaciones de mensajería y sitios para compartir archivos. Los investigadores señalan que el resultado es un alcance más profundo en comunidades previamente menos susceptibles únicamente al contenido escrito, lo que complica la moderación de contenidos y los esfuerzos contra el extremismo. Los expertos piden acelerar los marcos regulatorios, que las plataformas sean transparentes sobre el contenido sintético e invertir en herramientas de detección, al tiempo que subrayan que las eliminaciones por sí solas son insuficientes sin resiliencia comunitaria y contra‑narrativas multilingües. El artículo subraya una brecha entre la rápida adopción tecnológica por parte de actores malintencionados y las respuestas más lentas de las políticas y la industria.