De nombreuses entreprises et plateformes se demandent comment gérer le contenu généré par l’IA à mesure qu’il devient de plus en plus répandu. L’une des principales préoccupations de beaucoup est de préciser clairement qu’un modèle d’IA a créé une photo, une vidéo ou un morceau d’audio. À cette fin, il faut étiqueter les vidéos réalisées avec l’intelligence artificielle.
À partir d’aujourd’hui, la plateforme exigera que toute personne mettant en ligne une vidéo d’apparence réaliste « qui est réalisée avec des supports altérés ou synthétiques, y compris » de l’étiqueter par souci de transparence. YouTube définit le contenu réaliste comme tout ce qu’un spectateur pourrait « facilement confondre » avec une personne, un événement ou un lieu réel.
Si un créateur utilise une version synthétique de la voix d’une personne réelle pour raconter une vidéo ou remplace le visage d’une personne par celui d’une autre personne, il devra inclure une étiquette. Ils devront également inclure cette divulgation s’ils modifient des images d’un événement ou d’un lieu réel (par exemple en modifiant un paysage urbain existant ou en donnant l’impression qu’un véritable bâtiment est en feu).
YouTube indique qu’il peut appliquer l’une de ces étiquettes à une vidéo si un créateur ne l’a pas fait, « surtout si le contenu modifié ou synthétique est susceptible de dérouter ou d’induire les gens en erreur ». L’équipe note que même si elle souhaite donner aux créateurs un certain temps pour s’habituer aux nouvelles règles, YouTube pénalisera probablement ceux qui bafouent constamment la politique en n’incluant pas d’étiquette alors qu’ils devraient l’être.
Ces libellés commenceront à apparaître sur YouTube dans les semaines à venir, en commençant par l’application mobile, puis sur les ordinateurs de bureau et les téléviseurs. Ils apparaîtront principalement dans la description développée, notant que la vidéo comprend « du contenu modifié ou synthétique », ajoutant que « le son ou les visuels ont été considérablement modifiés ou générés numériquement ».
Cependant, lorsqu’il s’agit de sujets plus sensibles (tels que l’actualité, les élections, les finances et la santé), YouTube apposera une étiquette directement sur le lecteur vidéo pour le rendre plus visible.
Les créateurs n’auront pas besoin d’inclure l’étiquette s’ils ont uniquement utilisé l’IA générative pour les aider dans des tâches telles que la création de scripts, la proposition d’idées de vidéos ou la génération automatique de sous-titres. Les étiquettes ne seront pas nécessaires pour un « contenu manifestement irréaliste » ou si les modifications sont sans conséquence. L’ajustement des couleurs ou l’utilisation d’effets spéciaux tels que l’ajout d’un flou d’arrière-plan seul n’obligeront pas les créateurs à utiliser l’étiquette de contenu modifiée. L’application de filtres d’éclairage, de filtres de beauté ou d’autres améliorations ne le sera pas non plus.
En outre, YouTube indique qu’il travaille toujours sur un processus de demande de retrait remanié pour le contenu synthétique ou modifié qui représente le visage ou la voix d’une personne réelle et identifiable. Il prévoit de partager prochainement plus de détails sur cette procédure mise à jour.