Google développe un outil de modération gratuit que les petits sites Web peuvent utiliser pour identifier et supprimer le matériel terroriste, car la nouvelle législation au Royaume-Uni et dans l’UE oblige les sociétés Internet à faire davantage pour lutter contre les contenus illégaux.
Le logiciel est développé en partenariat avec l’unité de recherche et développement du géant de la recherche Jigsaw et Tech Against Terrorism, une initiative soutenue par l’ONU qui aide les entreprises technologiques à contrôler le terrorisme en ligne.
« Il y a beaucoup de sites Web qui n’ont tout simplement personne pour faire appliquer la loi. C’est une chose très laborieuse de même construire les algorithmes [and] alors vous avez besoin de tous ces réviseurs humains », a déclaré Yasmin Green, directrice générale de Jigsaw.
« [Smaller websites] Je ne veux pas de contenu Isis là-bas, mais il y en a une tonne partout [them], » elle a ajouté.
Cette décision intervient alors que les sociétés Internet seront obligées de supprimer le contenu extrémiste de leurs plates-formes sous peine d’amendes et d’autres sanctions en vertu de lois telles que la loi sur les services numériques dans l’UE, entrée en vigueur en novembre, et le projet de loi britannique sur la sécurité en ligne, qui est devrait devenir loi cette année.
La législation a été poussée par des politiciens et des régulateurs à travers l’Europe qui soutiennent que les groupes Big Tech ne sont pas allés assez loin pour contrôler le contenu en ligne.
Mais le nouveau régime réglementaire a suscité des inquiétudes quant au fait que les petites entreprises en démarrage ne sont pas équipées pour se conformer et qu’un manque de ressources limitera leur capacité à concurrencer les grandes entreprises technologiques.
« J’ai remarqué un grand changement dans le [leading] les plates-formes deviennent beaucoup plus efficaces pour modérer, et cela pousse le contenu terroriste et les allégations de canular COVID à [other sites] », a ajouté Vert.
Un rapport du Global Internet Forum to Counter Terrorism en 2021 a estimé que pour 10 000 publications sur Facebook, six contiendraient du contenu terroriste ou extrémiste. Sur les plateformes plus petites, ce chiffre peut atteindre 5 000, soit 50 % du contenu.
GIFCT, une organisation non gouvernementale fondée par Facebook, Microsoft, Twitter et YouTube en 2017 pour favoriser les partenariats entre de nombreuses plateformes technologiques, soutient le projet de Jigsaw. L’organisation non gouvernementale dispose d’une base de données de contenus terroristes partagée entre ses membres d’entreprises technologiques, que les systèmes de modération peuvent utiliser pour détecter les contenus existants.
Le 13 décembre, Facebook et le propriétaire d’Instagram Meta ont lancé un logiciel open source que d’autres plates-formes peuvent déployer pour faire correspondre le contenu terroriste aux images ou vidéos existantes dans la base de données et les mettre en évidence pour un examen humain urgent.
L’outil de Jigsaw vise à aborder la prochaine étape du processus et à aider les modérateurs humains à prendre des décisions sur le contenu signalé comme dangereux et illégal. Il commencera les tests avec deux sites sans nom au début de cette année.
« D’après notre expérience, nous constatons que les terroristes cherchent à exploiter des plateformes plus petites où la modération de contenu est difficile en raison de ressources limitées », a déclaré Adam Hadley, directeur de Tech Against Terrorism.
Jigsaw compte environ 70 employés, principalement basés dans les bureaux de Google à New York. Green, qui est devenu directeur général en juillet, a déclaré que la division déficitaire ne devrait pas devenir rentable.
« Il est entendu qu’il y a un retour commercial à long terme… Google a besoin d’un Internet plus sain », a ajouté Green. « Nous aidons Google et aidons Internet d’une manière qui offre de la valeur même si elle n’est pas monétaire. »
© 2023 Financial Times Ltd. Tous droits réservés. Ne pas être redistribué, copié ou modifié de quelque manière que ce soit.