La Commission nationale de cohésion et d’intégration (NCIC) du Kenya, une agence gouvernementale qui vise à éradiquer la discrimination ethnique ou raciale parmi les 45 tribus du pays, a donné sept jours à Facebook pour lutter contre les discours de haine liés aux élections du mois prochain sur sa plateforme. Si les médias sociaux ne le font pas, ils risquent d’être suspendus dans le pays. L’avertissement de l’agence intervient peu de temps après que l’ONG internationale Global Witness et l’association légale à but non lucratif Foxglove ont publié un rapport détaillant comment Facebook a approuvé les publicités écrites pour inciter à la violence ethnique en anglais et en swahili.
Les organisations ont uni leurs forces pour mener une étude testant la capacité de Facebook à détecter les discours de haine et les appels à la violence ethnique avant les élections au Kenya. Comme Global Witness l’a expliqué dans son rapport, la politique du pays est polarisée et axée sur l’ethnie — après les élections de 2007, par exemple, 1 300 personnes ont été tuées et des centaines de milliers d’autres ont dû fuir leur foyer. Beaucoup plus de personnes utilisent les médias sociaux aujourd’hui par rapport à 2007, et plus de 20 % de la population kenyane est sur Facebook, où les discours de haine et la désinformation sont des problèmes majeurs.
Les groupes ont décidé de ne pas publier les publicités exactes qu’ils ont soumises pour le test car elles étaient très offensantes, mais ils ont utilisé des exemples réels de discours de haine couramment utilisés au Kenya. Ils incluent des comparaisons de groupes tribaux spécifiques avec des animaux et appellent au viol, à l’abattage et à la décapitation de leurs membres. « À notre grande surprise et inquiétude », a rapporté Global Witness, « tous les exemples de discours de haine dans les deux [English and Swahili] ont été approuvés. » Le NCIC a déclaré que le rapport des ONG corrobore ses propres conclusions.
Après que les organisations ont demandé à Facebook un commentaire sur ce qu’il avait découvert et l’ont donc informé de l’étude, Meta a publié un article qui détaille comment il se prépare pour les élections au Kenya. Dans ce document, la société a déclaré avoir mis au point une technologie de détection de contenu plus avancée et avoir embauché des équipes dédiées de locuteurs swahili pour l’aider à « supprimer rapidement et à grande échelle les contenus nuisibles ». Pour voir si Facebook a vraiment mis en œuvre des changements qui ont amélioré son système de détection, les organisations ont resoumis ses publicités de test. Ils ont été approuvés une fois de plus.
Dans une déclaration envoyée à Global Witness et Gizmodo, Meta a déclaré avoir pris des « mesures importantes » pour « attraper les discours de haine et les contenus incendiaires au Kenya » et que la société « intensifie ces efforts avant les élections ». Il a également déclaré, cependant, qu’il y aura des cas où il manquera des choses « car les machines et les gens font des erreurs ».
Global Witness a déclaré que les conclusions de son étude suivaient un schéma similaire précédemment découvert au Myanmar, où Facebook a joué un rôle en permettant les appels au nettoyage ethnique contre les musulmans rohingyas. Cela suit également un schéma similaire que l’organisation a mis au jour en Éthiopie, dans lequel de mauvais acteurs utilisent Facebook pour inciter à la violence. Les organisations et la dénonciatrice de Facebook Frances Haugen appellent désormais Facebook à mettre en œuvre le paquet de mesures d’urgence « Break the Glass » qu’il a pris après l’attentat du 6 janvier 2021 contre le Capitole américain. Ils demandent également au réseau social de suspendre les publicités numériques payantes dans Kenya jusqu’à la fin des élections du 9 août.
Tous les produits recommandés par Engadget sont sélectionnés par notre équipe éditoriale, indépendante de notre maison mère. Certaines de nos histoires incluent des liens d’affiliation. Si vous achetez quelque chose via l’un de ces liens, nous pouvons gagner une commission d’affiliation.