Les mauvais acteurs continuent d’utiliser les deepfakes pour tout, depuis l’usurpation d’identité de célébrités jusqu’à l’arnaque à l’argent. Le dernier cas en date concerne Hong Kong, où un employé financier d’une entreprise multinationale non divulguée a été amené à envoyer 200 millions de dollars de Hong Kong (25,6 millions de dollars).
Selon la police de Hong Kong, des fraudeurs ont contacté l’employé se faisant passer pour le directeur financier de l’entreprise basé au Royaume-Uni. Au début, il était méfiant, car l’e-mail appelait à des transactions secrètes, mais c’est là que les deepfakes sont entrés en jeu. L’employé a assisté à un appel vidéo avec le « CFO » et d’autres membres reconnaissables de l’entreprise. En réalité, chaque « personne » avec laquelle il a interagi était un deepfake – probablement créé à partir de clips vidéo publics des individus réels.
Les deepfakes ont demandé à l’employé de se présenter, puis lui ont rapidement demandé d’effectuer 15 transferts comprenant les 25,6 millions de dollars vers cinq comptes bancaires locaux. Ils ont créé un sentiment d’urgence pour la tâche, puis l’appel s’est brusquement terminé. Une semaine plus tard, l’employé a vérifié la demande au sein de l’entreprise et a découvert la vérité.
La police de Hong Kong a arrêté jusqu’à présent six personnes en lien avec cette escroquerie. Les individus impliqués ont volé huit cartes d’identité et ont déposé 54 enregistrements de comptes bancaires et 90 demandes de prêt en 2023. Ils ont également utilisé des deepfakes pour tromper les logiciels de reconnaissance faciale dans au moins 20 cas.
L’utilisation généralisée des deepfakes est l’une des préoccupations croissantes liées à l’évolution de la technologie de l’IA. En janvier, Taylor Swift et le président Joe Biden faisaient partie de ceux dont l’identité a été forgée grâce à des deepfakes. Dans le cas de Swift, il s’agissait d’images pornographiques non consensuelles d’elle et d’une arnaque financière ciblant les acheteurs potentiels du Creuset. La voix du président Biden a pu être entendue dans certains appels automatisés adressés aux électeurs du New Hampshire, les implorant de ne pas voter aux primaires de leur État.