Alvin Bragg, le procureur du district de Manhattan, souhaite rencontrer le PDG de YouTube, Neal Mohan, pour discuter des raisons pour lesquelles le site Web autorise la publication de vidéos sur la fabrication de « pistolets fantômes » et pourquoi son algorithme les propose aux téléspectateurs mineurs qui regardent du contenu de jeux vidéo. Les pistolets fantômes sont des armes à feu assemblées à l’aide de pièces ou de composants imprimés en 3D achetés en kits. Cela signifie qu’ils n’ont pas de numéro de série, ce qui les rend presque impossibles à retracer, et qu’ils n’ont besoin d’aucune sorte de vérification des antécédents pour les acquérir.
Dans une lettre envoyée à Mohan (PDF) demandant une réunion, Bragg a fait référence à une étude menée par le Tech Transparency Project en 2023, dans laquelle il a créé quatre comptes YouTube de test et leur a donné les profils d’enfants de 14 et 9 ans. garçons. Apparemment, après avoir visionné au moins 100 vidéos de jeux, l’algorithme de YouTube a commencé à leur recommander des vidéos pédagogiques sur la fabrication d’armes fantômes. Ce n’est pas grave s’ils avaient seulement regardé, disons, Appel du devoir vidéos de gameplay et n’avait jamais interagi avec du contenu mettant en vedette de vraies armes. YouTube continuait de diffuser du contenu réel sur les armes à feu sur leurs comptes, ainsi que d’autres vidéos liées à la violence, telles que celles de fusillades dans des écoles et de tueurs en série, même si elles étaient censées être mineures. Bragg a également attiré l’attention de YouTube sur le fait qu’il n’existe aucun moyen pour les tuteurs de désactiver les recommandations du site Web dans le contrôle parental.
De nombreux jeunes faisant l’objet d’une enquête pour possession d’armes à feu à New York ont déclaré avoir appris à fabriquer des armes fantômes sur YouTube, a écrit Bragg. Bien que le site Web supprime ces vidéos lorsqu’elles sont signalées par des groupes de sécurité des armes à feu, le procureur a déclaré que YouTube devrait être plus proactif dans leur suppression, devrait s’assurer qu’elles ne pourront pas être téléchargées à l’avenir et devrait fournir aux téléspectateurs un moyen de les désactiver. recommandations. D’autant plus que le site Web a une politique qui interdit la mise en ligne de vidéos visant à vendre des armes à feu ou à expliquer aux téléspectateurs comment les fabriquer. YouTube a dit Nouvelles quotidiennes de New York dans une déclaration selon laquelle il « examinera attentivement » les vidéos que Manhattan DA partage avec la société et qu’il reste déterminé à « supprimer tout contenu qui viole [its] Stratégies. »