YouTube a annoncé de nouvelles mesures pour lutter contre l’utilisation abusive et la désinformation de l’IA qui seront déployées au cours des prochains mois. Les nouvelles politiques abordent la transparence des vidéos réalisées à l’aide de l’IA et le problème généralisé des deepfakes. YouTube permet « de demander la suppression de tout contenu synthétique ou modifié généré par l’IA ou qui simule un individu identifiable, y compris son visage ou sa voix ».
Les individus peuvent soumettre des demandes de suppression via le processus de demande de confidentialité de YouTube, mais l’entreprise pèsera la décision en fonction de s’il s’agit d’une satire ou si la personne peut être reconnue de manière unique, comme une personnalité publique. De même, les musiciens ou leurs représentants peuvent également demander la suppression de tout contenu utilisant l’IA pour imiter leur voix. Ces politiques surviennent à un moment où les deepfakes sont largement encouragés et partagés, comme Civitai, qui encourage les recréations sexualisées de femmes influentes.
En plus de rationaliser la suppression, YouTube veillera également à ce que tout contenu modifié ou synthétique soit étiqueté comme tel. Les créateurs verront de nouvelles options pour divulguer ces informations et, s’ils ne le font pas, pourraient faire face à la suppression de leurs publications, à une suspension du Programme Partenaire YouTube et à d’autres répercussions. YouTube affirme qu’il communiquera avec les créateurs sur l’utilisation de ce nouvel outil avant son déploiement. Du côté du spectateur, cela conduira à une grande bannière dans la description indiquant que le contenu est « modifié ou synthétique », avec la possibilité d’en savoir plus. Indépendamment d’un étiquetage approprié, YouTube peut toujours supprimer les vidéos créées par l’IA si elles contiennent du contenu délibérément dérangeant.