Selon Red Star News, une enquête sur les opérations frauduleuses basées au Myanmar révèle que les escroqueries téléphoniques mondiales recourent de plus en plus à l'automatisation par IA couplée à des paiements transfrontaliers en cryptomonnaies. Les réseaux criminels utilisent de grands modèles de langage, dont ChatGPT d'OpenAI et Gemini de Google, pour générer des scripts d'ingénierie sociale multilingues, et procèdent à l'usurpation d'identité et à la manipulation émotionnelle à grande échelle. Les fonds sont transférés via des paiements on-chain et des canaux internationaux pour un blanchiment rapide, créant un modèle à deux couches « acquisition pilotée par l'IA + règlement en crypto » avec une forte automatisation et une évolutivité transfrontalière. Starlink est devenu le principal fournisseur de services Internet pour ces opérations.
OpenAI a répondu que l'utilisation abusive de ChatGPT par les escrocs ressemble à un comportement d'utilisateur légitime, ce qui rend la détection difficile, mais a noté que ses systèmes de sécurité suspendent environ 100 000 comptes suspects par mois. Google a déclaré que ses modèles d'IA incluent des garde-fous de sécurité et a souligné son engagement en faveur d'un « développement responsable de l'IA » afin de limiter l'utilisation abusive des outils pour la fraude et d'autres fins illégales.