Vendredi, Meta a annoncé des mises à jour de sa politique visant à cesser de censurer le contenu inoffensif généré par l’IA et à commencer à « étiqueter un plus large éventail de contenus vidéo, audio et image comme » Fabriqué avec l’IA « .
Les mises à jour de la politique de Meta sont intervenues après avoir décidé de ne pas supprimer un message controversé édité pour montrer le président Joe Biden touchant apparemment de manière inappropriée la poitrine de sa petite-fille, avec une légende qualifiant Biden de « pédophile ». Le Conseil de surveillance avait approuvé la décision de Meta de laisser la publication en ligne, tout en notant que la politique actuelle de Meta en matière de manipulation des médias était trop « étroite », « incohérente » et « déroutante pour les utilisateurs ».
Auparavant, Meta supprimait uniquement « les vidéos créées ou modifiées par l’IA pour donner l’impression qu’une personne dit quelque chose qu’elle n’a pas dit ». Le Conseil de surveillance a averti que cette politique ne traitait pas d’autres médias manipulés, notamment les « contrefaçons bon marché », les fichiers audio manipulés ou les contenus montrant des gens faisant des choses qu’ils n’avaient jamais faites.
« Nous sommes d’accord avec l’argument du Conseil de surveillance selon lequel notre approche actuelle est trop étroite puisqu’elle couvre uniquement les vidéos créées ou modifiées par l’IA pour donner l’impression qu’une personne dit quelque chose qu’elle n’a pas dit », Monika Bickert, vice-présidente du contenu de Meta. politique, a écrit dans un blog. « Comme l’a noté le Conseil, il est tout aussi important de lutter contre la manipulation qui montre qu’une personne fait quelque chose qu’elle n’a pas fait. »
À partir de mai 2024, Meta ajoutera des étiquettes « Fabriqué avec l’IA » à tout contenu détecté comme généré par l’IA, ainsi qu’à tout contenu que les utilisateurs divulguent eux-mêmes comme étant générés par l’IA.
Le Conseil de surveillance de Meta avait également averti que Meta supprimant les vidéos générées par l’IA qui ne violaient pas directement les normes communautaires des plateformes menaçait de « risquer inutilement de restreindre la liberté d’expression ». À l’avenir, Meta cessera de censurer les contenus qui ne violent pas les normes de la communauté, convenant qu’une approche « moins restrictive » des médias manipulés en ajoutant des étiquettes est préférable.
« Si nous déterminons que les images, vidéos ou audio créés ou modifiés numériquement créent un risque particulièrement élevé de tromperie matérielle du public sur une question importante, nous pouvons ajouter une étiquette plus visible afin que les gens aient plus d’informations et de contexte », a écrit Bickert. « Cette approche globale donne aux gens plus d’informations sur le contenu afin qu’ils puissent mieux l’évaluer et ainsi avoir un contexte s’ils voient le même contenu ailleurs. »
Meta a confirmé qu’en juillet, elle cesserait de censurer le contenu généré par l’IA qui ne viole pas les règles restreignant des choses comme l’ingérence des électeurs, l’intimidation et le harcèlement, la violence et l’incitation.
« Cette chronologie donne aux gens le temps de comprendre le processus d’auto-divulgation avant que nous arrêtions de supprimer le plus petit sous-ensemble de médias manipulés », a expliqué Bickert sur le blog.
Enfin, Meta a adopté la recommandation du Conseil de surveillance de « définir clairement dans une politique unique et unifiée sur les médias manipulés les préjudices qu’elle vise à prévenir – au-delà de l’induction des utilisateurs en erreur – comme empêcher toute ingérence dans le droit de vote et de participation à la conduite des affaires publiques. «
Le Conseil de surveillance a publié une déclaration fournie à Ars, affirmant que les membres « sont heureux que Meta commence à étiqueter un plus large éventail de contenus vidéo, audio et image comme « réalisés avec l’IA » lorsqu’ils détectent des indicateurs d’image d’IA ou lorsque les gens indiquent qu’ils ont contenu IA téléchargé. »
« Cela offrira aux gens un plus grand contexte et une plus grande transparence pour davantage de types de médias manipulés, tout en supprimant également les publications qui violent les règles de Meta d’une autre manière », a déclaré le Conseil de surveillance.