Les équipes de renseignement sur les menaces ont signalé une boîte à outils de phishing commerciale pilotée par l'IA, vendue sur les marchés souterrains, qui automatise les courriels de phishing personnalisés et les scénarios d'ingénierie sociale en plusieurs étapes. Les spécialistes de la sécurité affirment que ce kit abaisse la barrière à l'entrée pour des campagnes massives et convaincantes et est déjà utilisé dans des opérations d'escroquerie à la romance et à l'investissement à grande échelle.

Des chercheurs et des briefings sur les menaces ont recensé une adoption rapide de trousseaux d’outils de phishing commercialisés qui automatisent la création de messages ciblés, de séquences d’hameçonnage (spear-phishing) et de flux d’engagement multicanaux. Promus sur des forums souterrains comme un phishing-en-tant-que-service abordable, ces kits tirent parti de modèles génératifs pour élaborer des lignes d’objet personnalisées, des récits crédibles et des scripts de réponse adaptatifs qui imitent le ton d’une cible et ses contacts connus, augmentant significativement les taux de clics et de collecte d’identifiants. Les équipes de sécurité ont rapporté que les kits incluent des modèles modulaires pour les e-mails, les SMS et les plateformes sociales, un suivi intégré et une gestion automatisée des personas qui permet aux attaquants de déployer à grande échelle des campagnes auparavant limitées à des laboratoires criminels sur mesure. La disponibilité de tels kits a déjà été liée à des augmentations des opérations de fraude sentimentale, d’investissement et de vol d’identifiants en réduisant les barrières techniques et les coûts opérationnels. Les analystes ont averti que les équipes de défense doivent adopter la détection comportementale, le partage rapide du renseignement sur les menaces et des mesures d’atténuation telles que l’authentification multifacteur et la sensibilisation des utilisateurs pour estomper les gains d’efficacité dont bénéficient les attaquants grâce à l’IA générative. Ce changement souligne une tendance plus large : l’IA commercialise l’ingénierie sociale à grande échelle.