YouTube exige désormais que les créateurs divulguent aux téléspectateurs quand un contenu réaliste a été créé avec l’IA, a annoncé la société lundi. La plateforme introduit un nouvel outil dans Creator Studio qui obligera les créateurs à divulguer quand un contenu que les téléspectateurs pourraient confondre avec une personne, un lieu ou un événement réel a été créé avec des médias modifiés ou synthétiques, y compris l’IA générative.
Les nouvelles divulgations visent à empêcher les utilisateurs de croire qu’une vidéo créée synthétiquement est réelle, car les nouveaux outils d’IA générative rendent plus difficile la distinction entre ce qui est réel et ce qui est faux. Ce lancement intervient alors que les experts ont averti que l’IA et les deepfakes poseraient un risque notable lors de la prochaine élection présidentielle américaine.
L’annonce d’aujourd’hui intervient alors que YouTube a annoncé en novembre qu’il allait déployer la mise à jour dans le cadre d’une introduction plus large de nouvelles politiques en matière d’IA.
YouTube affirme que la nouvelle politique n’oblige pas les créateurs à divulguer du contenu clairement irréaliste ou animé, comme quelqu’un chevauchant une licorne dans un monde fantastique. Cela n’oblige pas non plus les créateurs à divulguer le contenu qui a utilisé l’IA générative pour l’aide à la production, comme la génération de scripts ou de sous-titres automatiques.
Crédits images : Youtube
Au lieu de cela, YouTube cible les vidéos qui ressemblent à une personne réaliste. Par exemple, les créateurs devront divulguer s’ils ont modifié numériquement du contenu pour « remplacer le visage d’un individu par celui d’un autre ou générer synthétiquement la voix d’une personne pour raconter une vidéo », indique YouTube.
Ils devront également divulguer du contenu qui modifie les images d’événements ou de lieux réels, par exemple en donnant l’impression qu’un véritable bâtiment a pris feu. Les créateurs devront également révéler s’ils ont généré des scènes réalistes d’événements majeurs fictifs, comme une tornade se dirigeant vers une ville réelle.
YouTube indique que la plupart des vidéos auront une étiquette dans la description développée, mais pour les vidéos qui abordent des sujets plus sensibles comme la santé ou l’actualité, la société affichera une étiquette plus visible sur la vidéo elle-même.
Les téléspectateurs commenceront à voir les libellés dans tous les formats YouTube dans les semaines à venir, en commençant par l’application mobile YouTube, et bientôt sur les ordinateurs et les téléviseurs.
YouTube prévoit d’envisager des mesures coercitives pour les créateurs qui choisissent systématiquement de ne pas utiliser les étiquettes. La société affirme qu’elle ajoutera des étiquettes dans certains cas lorsqu’un créateur n’en a pas ajouté lui-même, en particulier si le contenu est susceptible de confondre ou d’induire les gens en erreur.