YouTube sévit contre les médias synthétiques avec une exigence de divulgation de l’IA

Mardi, YouTube a annoncé qu’il mettrait bientôt en œuvre des mesures plus strictes sur le contenu réaliste généré par l’IA et hébergé par le service. « Nous exigerons des créateurs qu’ils divulguent s’ils ont créé du contenu modifié ou synthétique qui est réaliste, y compris en utilisant des outils d’IA », a écrit la société dans un communiqué. Les changements seront déployés au cours des prochains mois et au cours de l’année prochaine.

Cette décision de YouTube s’inscrit dans le cadre d’une série d’efforts déployés par la plateforme pour relever les défis posés par l’IA générative dans la création de contenu, notamment les deepfakes, le clonage vocal et la désinformation. Lorsque les créateurs téléchargent du contenu, YouTube proposera de nouvelles options pour indiquer si le contenu comprend du matériel réaliste généré ou modifié par l’IA. « Par exemple, il pourrait s’agir d’une vidéo générée par l’IA qui décrit de manière réaliste un événement qui ne s’est jamais produit, ou d’un contenu montrant quelqu’un disant ou faisant quelque chose qu’il n’a pas réellement fait », écrit YouTube.

Dans l’annonce détaillée, Jennifer Flannery O’Connor et Emily Moxley, vice-présidentes de la gestion des produits chez YouTube, ont expliqué que la mise à jour de la politique vise à maintenir un écosystème positif face à l’IA générative. « Nous pensons qu’il est dans l’intérêt de tous de maintenir un écosystème d’informations sain sur YouTube », écrivent-ils. « Nous avons des politiques de longue date qui interdisent les contenus techniquement manipulés qui induisent les spectateurs en erreur… Cependant, les nouvelles formes puissantes de narration de l’IA peuvent également être utilisées pour générer du contenu susceptible d’induire les spectateurs en erreur, en particulier s’ils ignorent que la vidéo a été modifié ou est créé synthétiquement.

YouTube introduira également un nouveau système d’étiquetage sur la plateforme qui informera les téléspectateurs sur la nature du contenu qu’ils regardent. Par exemple, une nouvelle étiquette sera ajoutée au panneau de description et au lecteur vidéo pour le contenu qui a été modifié ou qui est synthétique, en particulier lorsqu’il aborde des sujets sensibles comme « les élections, les conflits en cours et les crises de santé publique, ou les agents publics », indique la société. .

De plus, le contenu créé par les propres produits d’IA générative de YouTube, tels que le créateur de vidéos alimenté par l’IA Dream Screen, sera automatiquement étiqueté comme modifié ou synthétique. La société a partagé trois maquettes de ce à quoi pourraient ressembler ces étiquettes, même si elles peuvent changer au fil du temps.

Les créateurs qui choisissent d’éviter la divulgation de l’utilisation de l’IA peuvent être soumis à des sanctions, notamment la suppression de leur contenu ou la suspension du Programme Partenaire YouTube. En outre, YouTube prévoit de déployer des outils de modération de contenu basés sur l’IA qui visent à améliorer la rapidité et la précision de l’identification et du traitement du contenu qui enfreint les nouvelles règles.

Réponse aux problèmes de deepfake et d’imitation d’artistes

YouTube a également annoncé son intention de permettre aux individus de demander la suppression de contenus générés par l’IA qui simulent des individus identifiables, y compris leurs visages ou leurs voix, comme les deepfakes, via un processus de demande de confidentialité. « Tous les contenus ne seront pas supprimés de YouTube et nous prendrons en compte divers facteurs lors de l’évaluation de ces demandes », écrivent-ils. « Cela pourrait inclure si le contenu est parodique ou satirique, si la personne qui fait la demande peut être identifiée de manière unique, ou s’il met en scène un agent public ou une personne connue, auquel cas la barre peut être plus élevée. »

Dans le même esprit, YouTube introduira également une politique permettant aux artistes ou aux éditeurs de musique de demander la suppression de la musique générée par l’IA qui imite la voix unique de chant ou de rap d’un artiste. Comme pour les demandes de confidentialité, les retraits potentiels examineront si le contenu fait partie d’un reportage d’actualité, d’une analyse ou d’une critique de la voix synthétique, indique la société.

En gardant à l’esprit les besoins de parodie, d’utilisation équitable et de commentaires politiques, YouTube affirme tenter d’équilibrer les nouvelles applications de l’IA avec ses efforts de sécurité communautaire. « Nous n’en sommes qu’au début de notre voyage pour débloquer de nouvelles formes d’innovation et de créativité sur YouTube grâce à l’IA générative », écrivent-ils. « Nous travaillerons main dans la main avec les créateurs, les artistes et d’autres acteurs des industries créatives pour construire un avenir qui profite à tous. »