La FCC envisage une nouvelle règle qui exigerait la divulgation de l’utilisation de l’intelligence artificielle dans les publicités politiques – alors que l’agence n’interdirait pas le contenu généré par l’IA.
La présidente de la FCC, Jessica Rosenworcel, a annoncé mercredi une nouvelle proposition d’agence qui, si elle est adoptée, examinerait si les diffuseurs de radio et de télévision, les opérateurs de télévision par câble et les fournisseurs de télévision par satellite devraient être tenus de divulguer lorsqu’il y a du contenu généré par l’IA dans un candidat ou un sujet. publicités politiques. La compétence réglementaire de l’agence dans ce domaine ne s’étend pas aux services de streaming en ligne.
« À mesure que les outils d’intelligence artificielle deviennent plus accessibles, la commission veut s’assurer que les consommateurs soient pleinement informés lorsque la technologie est utilisée », a déclaré Rosenworcel (photo ci-dessus) a déclaré dans un communiqué. « Aujourd’hui, j’ai partagé avec mes collègues une proposition qui indique clairement que les consommateurs ont le droit de savoir quand des outils d’IA sont utilisés dans les publicités politiques qu’ils voient, et j’espère qu’ils agiront rapidement sur cette question. »
L’année dernière, le Comité national républicain a publié une publicité d’attaque générée par l’IA illustrant un avenir dystopique si le président Biden est réélu en 2024 – avec des photos réalistes de devantures de magasins fermées, de patrouilles militaires dans les rues et de vagues d’immigrants créant la panique. La publicité du RNC comportait une divulgation qui disait : « Un aperçu généré par l’IA sur l’avenir possible du pays si Joe Biden est réélu en 2024. »
Les inquiétudes concernant l’utilisation de l’IA spécifiquement pour diffuser de la désinformation politique remontent à plusieurs années. Par exemple, en 2018, le cinéaste Jordan Peele a produit une vidéo pour BuzzFeed qui mettait les paroles de Peele dans la bouche de l’ancien président Barack Obama, dans le but de sensibiliser les gens aux deepfakes.
Comme l’a noté l’AP, la FCC a statué plus tôt cette année que les outils de clonage vocal d’IA dans les appels automatisés étaient interdits en vertu de la loi en vigueur. Cela s’est produit après qu’un consultant politique démocrate, affirmant vouloir attirer l’attention sur la question des manigances politiques générées par l’IA, ait utilisé une fausse voix imitant le président Biden pour exhorter les démocrates à ne pas voter aux primaires du New Hampshire.
La proposition de la FCC cherche à obtenir des commentaires sur l’opportunité d’exiger une divulgation à l’antenne et une divulgation écrite dans les dossiers politiques des radiodiffuseurs lorsqu’il y a du contenu généré par l’IA dans les publicités politiques, ainsi qu’un commentaire sur une « définition spécifique du contenu généré par l’IA ».
Des groupes de défense, dont Common Cause, ont apporté leur soutien à la proposition de la FCC.
« Cette réglementation est une bonne nouvelle car l’utilisation d’une IA trompeuse et de deepfakes menace notre démocratie et est déjà utilisée pour éroder la confiance dans nos institutions et nos élections », a déclaré Ishan Mehta, directeur du programme pour les médias et la démocratie de Common Cause, dans un communiqué. « Nous avons constaté l’impact de l’IA sur la politique sous la forme de publicités primaires utilisant des voix et des images d’IA, et d’appels automatisés lors des primaires du New Hampshire. »
Mehta a ajouté : « Nous exhortons le Congrès et d’autres agences comme la Commission électorale fédérale à suivre l’exemple de la FCC et à prendre des mesures proactives pour protéger notre démocratie de la menace très sérieuse posée par l’IA. »