Les deepfakes sont un problème. Cela est devenu clair au fil des ans avec des personnes utilisant des programmes de synthèse profonde artificiellement intelligents pour escroquer, diffamer et généralement diffuser de la désinformation. La Chine a franchi une étape dans la résolution du problème des deepfakes avec une nouvelle loi qui exige que tout ce qui est fait avec l’utilisation de la technologie de synthétiseur profond soit étiqueté comme tel.
Les règlements sont énoncés dans une annonce récente (s’ouvre dans un nouvel onglet) de l’administration du cyberespace de Chine, du ministère de l’industrie et des technologies de l’information, et même du ministère de la sécurité publique, collectivement (via zdnet (s’ouvre dans un nouvel onglet)). Il détaille les inquiétudes qui ont conduit à l’adoption de la loi et dresse une très longue liste des technologies concernées.
« Alors que les services de synthèse approfondie répondent aux besoins des utilisateurs et améliorent l’expérience utilisateur, ils sont également utilisés par certaines personnes peu scrupuleuses pour produire, copier, publier et diffuser des informations illégales, calomnier, rabaisser la réputation et l’honneur d’autrui », indique-t-il (traduction automatique) .
Et ce n’est pas seulement le remplacement du visage qui est visé par la nouvelle réglementation. Cela concerne également tout type de manipulation de visage, de manipulation de gestes et tout ce qui implique un apprentissage en profondeur, la réalité virtuelle, la génération de texte/audio/image via des algorithmes synthétiques, des scènes virtuelles et même tout ce qui est généré à l’aide de la technologie de synthèse vocale devra être marqué comme tel. La liste continue. Cela a du sens car les progrès ont rendu extrêmement difficile la détection de contenu deepfake à l’œil nu.
Bien sûr, il existe une technologie destinée à détecter les deepfakes, comme FakeCatcher d’Intel (s’ouvre dans un nouvel onglet) qui fonctionne avec une précision d’environ 96 %, mais il va sans dire que nous ne devrions pas avoir recours à de telles tactiques juste pour confirmer si quelque chose est réel. La personne moyenne sur Facebook ne va pas se donner la peine d’exécuter tout ce qu’elle fait défiler dans les applications de détection, et cela a certainement le potentiel de perturber ce que l’annonce appelle une « bonne écologie du cyberespace ».
Honnêtement, c’est un miracle que les deepfakes aient été autorisés à rester incontrôlés en Chine pendant si longtemps. Quant aux États-Unis, le magazine du chef de la police de l’IACP (s’ouvre dans un nouvel onglet) explique que « en raison d’un manque de sensibilisation, des lois spécifiques aux deepfakes n’existent que dans quelques États ». Les deepfakes influençant les élections sont interdits au Texas, la pornographie deepfake est interdite en Virginie et la Californie a interdit « les deepfakes malveillants dans les 60 jours suivant une élection et la pornographie deepfake non consensuelle ». Ce qui, bien que ce soit un pas dans la bonne direction, est loin d’être aussi approfondi que la vision révisée de la Chine sur le phénomène.
Une partie du raisonnement derrière l’introduction de ces réglementations, note l’annonce, est de « promouvoir le développement standardisé de services de synthèse approfondie ». Reste à savoir si la réglementation entraînera un étouffement de la créativité. Je pense que nous pouvons tous soutenir les lois contre la pornographie deepfake non consensuelle, à tout le moins.