Les merveilleux robots de modération de contenu de Google sont de retour. Après avoir déjà fait des choses comme inclure des instructions de suicide dans une vidéo pour enfants et tout le problème d’Elsagate, YouTube signale maintenant une vidéo d’horreur comme « pour les enfants ». Pire que tout, c’est contre la volonté du créateur. La vidéo était auparavant signalée comme pour les 18 ans et plus, et YouTube a décidé qu’elle était destinée aux enfants et ne laissera pas le créateur restaurer sa classification de contenu.
La vidéo en question est tirée de la série d’horreur Local58TV. Le créateur, Kris Straub, a vérifié son compte au cours du week-end pour découvrir que son contenu non destiné aux enfants a été repéré par l’IA de modération de contenu de YouTube et automatiquement marqué pour les enfants.
félicitations @Youtube sur la décision d’auto-désigner @LOCAL58TV‘s « show for children » as FOR KIDS bien que je l’aie défini comme inapproprié pour les enfants. je ne peux pas non plus le changer volontairement sans un *appel* pic.twitter.com/dnhmzL9hbi
– Kris Straub (@krisstraub) 5 juillet 2022
« Pour les enfants » dans ce contexte signifie que Google a marqué la vidéo pour inclusion dans l’application « YouTube Kids », qui est une interface distincte pour YouTube qui est censée afficher uniquement une tranche organisée « sûre » de YouTube. Le drapeau « Enfants » signifie également que la vidéo est obligée de se conformer à la loi américaine COPPA (Children’s Online Privacy Protection Act). Les commentaires sont donc désactivés.
Local58TV compte des millions de vues sur ses neuf vidéos et est suffisamment célèbre pour avoir une page Wikipedia. La page à propos de la chaîne se décrit comme « HORREUR ANALOGIQUE À 476 MHz. Des courts métrages troublants dans l’esthétique des images trouvées / VHS de Kris Straub. » La vidéo la plus populaire de la chaîne, « Contingency », est une fausse annonce d’intérêt public du « Département américain pour la préservation de la dignité américaine ». Le message, défini sur une interprétation ultra effrayante de La SBannière étoilée de goudron, déclare que l’Amérique a perdu la guerre et a été forcée de se rendre. Avant que les occupants n’arrivent cependant, vous pouvez « emmener l’Amérique avec vous » en tuant/suicidant votre famille. La vidéo continue avec des instructions. Ce n’est évidemment pas le genre de chaîne qui s’adresse aux enfants !
Cependant, YouTube n’obtient pas l’ambiance Local58TV. Il a automatiquement signalé un épisode, intitulé « Show For Children », comme pour les enfants. Vous pouvez voir comment un bot AI pourrait croiser ses fils à partir de ce titre, mais il dit immédiatement « Pas pour les enfants » dans la description, et le créateur, Straub, a initialement défini la classification d’âge de la vidéo sur « 18+ » lorsqu’elle a été téléchargée .
L’épisode est un dessin animé en noir et blanc où un squelette de dessin animé mignon erre dans un cimetière à la recherche d’un squelette de petite amie de dessin animé mignon, seulement pour trouver des squelettes horribles et plus réalistes et d’autres créatures dans les tombes ouvertes. À la fin de la vidéo, apparemment de dépression, le joli squelette se couche dans une tombe et meurt, se transformant en un squelette réaliste. Le dessin animé est quelque chose qu’un bot AI pourrait ne pas comprendre, mais un humain pourrait immédiatement dire que la vidéo troublante n’est pas adaptée aux enfants. YouTube ne souffre certainement pas d’argent, ayant réalisé 28,8 milliards de dollars de revenus l’année dernière, mais il n’embauche pas un nombre important de modérateurs humains.
YouTube a non seulement signalé une vidéo explicitement marquée comme « inappropriée pour les enfants » comme « conçue pour les enfants », mais il ne laissera pas non plus le créateur la modifier. Le contenu de la vidéo est désormais étiqueté « Conçu pour les enfants (défini par YouTube) » et Straub est obligé de déposer un recours auprès de YouTube pour que la classification par âge de la vidéo soit corrigée.
Même si vous utilisez des robots pour la modération, cela n’a pas beaucoup de sens pour YouTube d’être dans cette position. Pour chaque téléchargement de vidéo, YouTube demande si une vidéo est adaptée aux enfants ou non. Étant donné que YouTube dispose déjà de ces données, on ne sait pas pourquoi il essaierait de catégoriser automatiquement les vidéos, en particulier en abaissant une classification par âge explicitement définie comme « réservée aux adultes ». Pour quelque chose d’aussi délicat et subjectif que de savoir si certains contenus doivent ou non être visionnés par un enfant, il semble que Google devrait pécher par excès de prudence.
Au moment de mettre sous presse, Straub a rendu public le problème il y a 20 heures et il n’a pas été résolu. Le compte Twitter « Team YouTube » a dit il « examinait » la plainte il y a neuf heures. Vous pouvez constater que la vidéo est toujours signalée pour les enfants en raison de la section des commentaires désactivée et de l’option « Essayez YouTube Kids ! » annonce en bas. Vous n’obtenez également que des suggestions pour d’autres contenus « enfants », qui, en un coup d’œil, ne semblent pas présenter autant de morts que le contenu Local58TV habituel.
Mise à jour 06/07/2022 15:55: Plus tôt dans la journée, YouTube a approuvé l’appel de Straub et a rétabli la vidéo à ses paramètres d’origine. Un représentant de l’équipe YouTube a répondu sur Twitter en disant : « Nous pouvons remplacer le paramètre d’audience en cas d’erreur ou d’abus (par le biais de systèmes automatisés et d’un examen manuel) – mais nous savons que nous commettons parfois des erreurs. »
Merci! avez-vous une explication quant à la raison pour laquelle une vidéo que le créateur a marquée « pas pour les enfants » serait examinée par youtube, qui dit alors « en fait, nous pensons que c’est pour les enfants » ? https://t.co/ZOIfX4pwNC
– Kris Straub (@krisstraub) 6 juillet 2022