Getty Images | Thamrongpat Theerathammakorn
La Federal Communications Commission prévoit de voter pour rendre illégale l’utilisation des voix générées par l’IA dans les appels automatisés. La FCC a déclaré que les voix générées par l’IA dans les appels automatisés se sont « intensifiées au cours des dernières années » et ont « le potentiel de confondre les consommateurs avec de la désinformation en imitant les voix de célébrités, de candidats politiques et de membres de la famille proche ».
La décision déclaratoire proposée par la présidente de la FCC, Jessica Rosenworcel, statuerait que « les appels passés avec des voix générées par l’IA sont des voix « artificielles » en vertu de la loi sur la protection des consommateurs par téléphone (TCPA), ce qui rendrait illégale la technologie de clonage vocal utilisée dans les escroqueries courantes par appels automatisés ciblant les consommateurs, » le commission annoncée hier. Les commissaires voteraient sur la proposition dans les semaines à venir.
Un récent appel automatisé anti-vote a utilisé une version générée artificiellement de la voix du président Joe Biden. Les appels demandaient aux démocrates de ne pas voter aux élections primaires présidentielles du New Hampshire.
Une analyse de la société Pindrop a conclu que la voix artificielle de Biden a été créée à l’aide d’un moteur de synthèse vocale proposé par ElevenLabs. Cette conclusion a apparemment été confirmée par ElevenLabs, qui aurait suspendu le compte de l’utilisateur qui a créé le deepfake.
La décision de la FCC pourrait aider les États à sévir
La TCPA, une loi américaine de 1991, interdit l’utilisation de voix artificielles ou préenregistrées dans la plupart des appels non urgents « sans le consentement exprès préalable de l’appelé ». La FCC est chargée de rédiger des règles pour mettre en œuvre la loi, ce qui est passible d’amendes.
Comme l’a noté hier la FCC, la TCPA « restreint les appels de télémarketing et l’utilisation de systèmes de numérotation téléphonique automatique et de messages vocaux artificiels ou préenregistrés ». Les télévendeurs sont tenus « d’obtenir le consentement écrit exprès préalable des consommateurs avant de les appeler de manière automatisée. Si elle est adoptée avec succès, cette décision déclaratoire garantirait que les appels vocaux générés par l’IA soient également soumis aux mêmes normes ».
La FCC réfléchit depuis au moins quelques mois à réviser ses règles pour tenir compte de l’intelligence artificielle. En novembre 2023, elle a lancé une enquête sur l’impact de l’IA sur les appels automatisés et les robotstextes.
Rosenworcel a déclaré que la décision proposée « reconnaîtrait cette technologie émergente comme illégale en vertu de la loi en vigueur, donnant ainsi à nos partenaires des bureaux des procureurs généraux des États à travers le pays de nouveaux outils qu’ils peuvent utiliser pour réprimer ces escroqueries et protéger les consommateurs ».
« Le clonage de voix et d’images générés par l’IA sème déjà la confusion en faisant croire aux consommateurs que les escroqueries et les fraudes sont légitimes », a déclaré Rosenworcel. « Quelle que soit la célébrité ou le politicien que vous privilégiez, ou la relation que vous entretenez avec vos proches lorsqu’ils appellent à l’aide, il est possible que nous soyons tous la cible de ces faux appels. »