Dix personnes ont été assassinées ce week-end lors d’une attaque raciste contre un supermarché de Buffalo, à New York. Le tireur suprémaciste blanc de dix-huit ans a diffusé en direct son attaque contre Twitch, la plateforme de streaming de jeux vidéo appartenant à Amazon. Même si Twitch a supprimé la vidéo deux minutes après le début des violences, il était encore trop tard – maintenant, des images horribles de l’attaque terroriste circulent ouvertement sur des plateformes comme Facebook et Twitter, même après que les entreprises se sont engagées à retirer la vidéo.
Sur Facebook, certains utilisateurs qui ont signalé la vidéo ont été informés que le contenu n’a pas violé ses règles. La société a déclaré à TechCrunch qu’il s’agissait d’une erreur, ajoutant qu’elle disposait d’équipes travaillant 24 heures sur 24 pour retirer les vidéos du tournage, ainsi que des liens vers la vidéo hébergée sur d’autres sites. Facebook a déclaré qu’il supprimait également les copies de la chape raciste du tireur et du contenu qui le louait.
Mais lorsque nous avons recherché un terme aussi simple que « séquence de tir de bisons » sur Facebook, l’un des premiers résultats comportait un enregistrement d’écran de 54 secondes de la séquence du terroriste. TechCrunch a rencontré la vidéo une heure après son téléchargement et l’a immédiatement signalée. La vidéo n’a été retirée que trois heures après sa publication, alors qu’elle avait déjà été visionnée plus d’un millier de fois.
En théorie, cela ne devrait pas arriver. Un représentant de Facebook a déclaré à TechCrunch qu’il avait ajouté plusieurs versions de la vidéo, ainsi que les écrits racistes du tireur, à une base de données de contenu violant, ce qui aide la plateforme à identifier, supprimer et bloquer ce contenu. Nous avons interrogé Facebook sur cet incident particulier, mais ils n’ont pas fourni de détails supplémentaires.
« Nous allons continuer à apprendre, à affiner nos processus, à nous assurer que nous pourrons détecter et supprimer plus rapidement les contenus violants à l’avenir », a déclaré le vice-président de l’intégrité de Facebook, Guy Rosen, en réponse à une question sur les raisons pour lesquelles l’entreprise avait du mal à supprimer des copies de la vidéo lors d’un appel sans rapport mardi.
Les republications du flux du tireur étaient également faciles à trouver sur Twitter. En fait, lorsque nous avons tapé « vidéo de buffle » dans la barre de recherche, Twitter a suggéré des recherches telles que « graphique vidéo complet de la vidéo de buffle », « vidéo de buffle divulguée » et « graphique de la vidéo de buffle ».
Crédits image : Twitter, capture d’écran par TechCrunch
Nous avons rencontré plusieurs vidéos de l’attaque qui circulent sur Twitter depuis plus de deux jours. Une de ces vidéos avait plus de 261 000 vues lorsque nous l’avons examinée mardi après-midi.
En avril, Twitter adopté une politique qui interdit les auteurs individuels d’attaques violentes de Twitter. En vertu de cette politique, la plate-forme se réserve également le droit de supprimer les contenus multimédias liés aux attaques, ainsi que le langage des « manifestes » terroristes.
« Nous supprimons les vidéos et les médias liés à l’incident. De plus, nous pouvons supprimer les Tweets diffusant le manifeste ou tout autre contenu produit par les auteurs », a déclaré un porte-parole de Twitter à TechCrunch. La société a qualifié ce contenu « haineux et discriminatoire » de « nuisible pour la société ».
Twitter affirme également que certains utilisateurs tentent de contourner les retraits en téléchargeant du contenu modifié ou manipulé lié à l’attaque.
En revanche, les séquences vidéo de la tragédie du week-end étaient relativement difficiles à trouver sur YouTube. Les termes de recherche de base pour la vidéo de tournage de Buffalo ont principalement évoqué la couverture des médias grand public. Avec les mêmes termes de recherche que nous avons utilisés sur Twitter et Facebook, nous avons pu identifier une poignée de vidéos YouTube avec des vignettes du tournage qui étaient en fait du contenu sans rapport une fois cliqué. Sur TikTok, TechCrunch a identifié certains messages qui dirigeaient les utilisateurs vers des sites Web où ils pouvaient regarder la vidéo, mais n’a pas trouvé les images réelles sur l’application dans nos recherches.
Twitch, Twitter et Facebook ont déclaré qu’ils travaillaient avec le Forum Internet mondial de lutte contre le terrorisme pour limiter la diffusion de la vidéo. Twitch et Discord ont également confirmé qu’ils travaillaient avec les autorités gouvernementales qui enquêtent sur la situation. Le tireur a décrit en détail ses plans pour le tournage sur un serveur Discord privé avant l’attaque.
Selon des documents examinés par TechCrunch, le tireur de Buffalo a décidé de diffuser son attaque sur Twitch car une fusillade antisémite de 2019 à la synagogue de Halle est restée en direct sur Twitch pendant plus de 30 minutes avant d’être supprimée. Le tireur a envisagé de diffuser sur Facebook, mais a choisi de ne pas utiliser la plate-forme car il pensait que les utilisateurs devaient être connectés pour regarder les diffusions en direct.
Facebook a également organisé par inadvertance des fusillades de masse qui ont échappé à la détection algorithmique. La même année que la fusillade de la synagogue Halle, 50 personnes ont été tuées dans une attaque islamophobe contre deux mosquées à Christchurch, en Nouvelle-Zélande, qui a été diffusée pendant 17 minutes. Au moins trois auteurs de fusillades de masse, dont le suspect à Buffalo, ont cité le massacre de Christchurch diffusé en direct comme source d’inspiration pour leurs attaques racistes.
Facebook a noté le lendemain de la fusillade de Christchurch qu’il avait supprimé 1,5 million de vidéos de l’attaque, dont 1,2 million ont été bloquées lors du téléchargement. Bien sûr, cela a soulevé la question de savoir pourquoi Facebook n’a pas été en mesure de détecter immédiatement 300 000 de ces vidéos, marquant un taux d’échec de 20 %.
À en juger par la facilité avec laquelle il a été possible de localiser les vidéos du tournage de Buffalo sur Facebook, il semble que la plateforme ait encore un long chemin à parcourir.