Les voix générées par l’IA peuvent être bonnes ou mauvaises – comme l’a dit l’acteur doubleur de Witcher Doug Cockle, tout dépend vraiment de l’intention de l’utilisateur. Comment lutter efficacement contre les risques d’utilisation abusive est une grande question, mais la Federal Communications Commission des États-Unis a maintenant pris une mesure pour réprimer au moins une voie d’utilisation abusive en interdisant les voix générées par l’IA dans les appels automatisés.
Les appels automatisés sont des appels téléphoniques automatisés qui diffusent un message préenregistré, couramment utilisés pour le télémarketing ou les campagnes politiques. Dans le meilleur des cas, ils constituent une aggravation, mais l’essor de l’IA les rend particulièrement dangereux, car au lieu d’une voix aléatoire, une personne pourrait entendre Clint Eastwood, Gregory Peck ou le président américain Joe Biden. Ce dernier s’est produit en janvier, lorsqu’un faux appel automatisé à la voix de Biden a été envoyé à plus de 20 000 personnes, exhortant les démocrates à ne pas voter.
Arnaquer les gens par téléphone est évidemment illégal, mais la nouvelle règle de la FCC rend illégal le fait d’utiliser l’IA pour générer les voix utilisées dans les appels automatisés. L’agence a déclaré que le nouveau règlement élargit « les voies juridiques par lesquelles les organismes chargés de l’application des lois des États peuvent tenir ces auteurs pour responsables en vertu de la loi ».
« Des acteurs malveillants utilisent des voix générées par l’IA dans des appels automatisés non sollicités pour extorquer des membres vulnérables de la famille, imiter des célébrités et désinformer les électeurs. Nous avertissons les fraudeurs à l’origine de ces appels automatisés », a déclaré la présidente de la FCC, Jessica Rosenworcel, dans l’annonce de la nouvelle règle. . « Les procureurs généraux des États disposeront désormais de nouveaux outils pour réprimer ces escroqueries et garantir que le public est protégé contre la fraude et la désinformation. »
La décision déclaratoire a été rendue en vertu de la Loi sur la protection des consommateurs par téléphone, qui autorise des amendes de 500 $ à 1 500 $ par violation, c’est-à-dire par appel. Comme vous pouvez l’imaginer, cela peut s’additionner très rapidement : en août 2023, la FCC a imposé une amende de 300 millions de dollars aux auteurs d’une arnaque aux appels automatisés sous garantie automobile qui a effectué plus de cinq milliards d’appels automatisés vers plus de 500 millions de numéros de téléphone. dans un délai de trois mois.
Je me méfie toujours un peu de « davantage de réglementation » car, tout comme l’IA, elle peut conduire à de mauvais résultats si elle est mal utilisée. Dans ce cas, je pense que c’est tout à fait justifié, mais il reste à voir dans quelle mesure la nouvelle réglementation aura un effet dissuasif. Deux des « acteurs centraux » de l’arnaque aux appels automatisés liés à la garantie automobile s’étaient déjà vu interdire à vie de passer des appels de télémarketing par la Commission fédérale du commerce des États-Unis et par l’État du Texas.