La Cour suprême pourrait bientôt redéfinir les règles de l’internet tel que nous le connaissons. Cette semaine, le tribunal entendra deux affaires, Gonzalez contre Google et Twitter contre Taamnehqui lui donnent l’occasion de changer radicalement les règles de la parole en ligne.
Les deux affaires traitent de la manière dont les plateformes en ligne ont traité le contenu terroriste. Et les deux ont suscité de profondes inquiétudes quant à l’avenir de la modération de contenu, des algorithmes et de la censure.
Article 230 et Gonzalez contre Google
Si vous avez passé du temps à suivre les différentes guerres culturelles associées à la liberté d’expression en ligne au cours des dernières années, vous avez probablement entendu parler de la section 230. Parfois appelée « les vingt-six mots qui ont inventé Internet », la section 230 est une clause de la Communications Decency Act qui protège les plateformes en ligne de toute responsabilité pour les actions de leurs utilisateurs. Il protège également la capacité des entreprises à modérer ce qui apparaît sur leurs plateformes.
Sans ces protections, affirment les défenseurs de l’article 230, Internet tel que nous le connaissons ne pourrait pas exister. Mais la loi a également fait l’objet d’un examen minutieux ces dernières années dans le cadre d’une prise en compte plus large de l’impact de Big Tech sur la société. De manière générale, ceux de droite sont favorables à l’abrogation de l’article 230 car ils affirment qu’il permet la censure, tandis que certains à gauche ont déclaré qu’il permet aux géants de la technologie d’éviter la responsabilité des dommages sociétaux causés par leurs plateformes. Mais même parmi ceux qui cherchent à modifier ou à démanteler l’article 230, il y a eu peu d’accord sur des réformes spécifiques.
L’article 230 est également au cœur de Gonzalez contre Google, que la Cour suprême entendra le 21 février. L’affaire, intentée par des membres de la famille d’une victime de l’attentat terroriste de Paris en 2015, fait valoir que Google a violé les lois antiterroristes américaines lorsque des vidéos de l’Etat islamique sont apparues dans les recommandations de YouTube. Les protections de l’article 230, selon la poursuite, ne devraient pas s’appliquer car YouTube algorithmes suggéré les vidéos.
« Cela revient essentiellement à dire que les plateformes ne sont pas responsables du contenu publié par ISIS, mais qu’elles sont responsables des algorithmes de recommandation qui ont promu ce contenu », a déclaré Daphne Keller, qui dirige le programme sur la réglementation des plateformes au Cyber Policy Center de Stanford, lors d’une récente panel discutant de l’affaire.
Cela peut sembler une distinction relativement étroite, mais les algorithmes sous-tendent presque tous les aspects de l’Internet moderne. Ainsi, la décision de la Cour suprême pourrait avoir un impact énorme non seulement sur Google, mais sur presque toutes les entreprises opérant en ligne. Si le tribunal prend parti contre Google, alors « cela pourrait signifier que les plateformes en ligne devraient changer leur mode de fonctionnement pour éviter d’être tenues responsables du contenu promu sur leurs sites », a déclaré le Bipartisan Policy Center, un groupe de réflexion basé à Washington. , explique. Certains ont émis l’hypothèse que les plateformes pourraient être obligées de supprimer tout type de classement, ou devraient s’engager dans une modération de contenu si agressive qu’elle éliminerait tout sauf le contenu le plus banal et le moins controversé.
« Je pense qu’il est exact que cet avis sera l’avis le plus important de la Cour suprême sur Internet, peut-être jamais », a déclaré Alan Rozenshtein, professeur de droit à l’Université du Minnesota, lors du même panel, organisé par la Brookings Institution.
C’est pourquoi des dizaines d’autres plates-formes, des groupes de la société civile et même les auteurs originaux de l’article 230 ont pesé, via des mémoires « d’amis de la cour », en faveur de Google. Dans son mémoire, Reddit a fait valoir que l’érosion de 230 protections pour les algorithmes de recommandation pourrait menacer l’existence de toute plate-forme qui, comme Reddit, repose sur du contenu généré par les utilisateurs.
« L’article 230 protège Reddit, ainsi que les modérateurs et utilisateurs bénévoles de Reddit, lorsqu’ils promeuvent et recommandent, ou suppriment, du contenu numérique créé par d’autres », déclare Reddit dans son dossier. « Sans une solide protection de l’article 230, les internautes – et pas seulement les entreprises – feraient face à de nombreuses autres poursuites judiciaires de la part de plaignants prétendant être lésés par des décisions quotidiennes de modération de contenu. »
Yelp, qui a passé une grande partie des dernières années à plaider en faveur d’une action antitrust contre Google, partageait des préoccupations similaires. « Si Yelp ne pouvait pas analyser et recommander des avis sans engager sa responsabilité, ces coûts de soumission d’avis frauduleux disparaîtraient », affirme la société. « Si Yelp devait afficher chaque avis soumis, sans la liberté éditoriale que l’article 230 offre pour en recommander de manière algorithmique certains sur d’autres pour les consommateurs, les propriétaires d’entreprise pourraient soumettre des centaines d’avis positifs pour leur propre entreprise avec peu d’effort ou un risque de pénalité. »
Meta, d’autre part, soutient qu’une conclusion de décision 230 ne s’applique pas aux algorithmes de recommandation conduirait à des plateformes supprimant plus de discours « impopulaires ». Fait intéressant, cet argument semble jouer dans les inquiétudes de la droite à propos de la censure. « Si les services en ligne risquent une responsabilité substantielle pour la diffusion de contenu tiers … mais pas pour la suppression de contenu tiers, ils opteront inévitablement pour la suppression de contenu qui se rapproche de la ligne de responsabilité potentielle », écrit la société. « Ces incitations auront un impact particulièrement lourd sur les contenus qui remettent en question le consensus ou expriment un point de vue impopulaire. »
Twitter contre Taamneh
Le lendemain de l’audition des plaidoiries par la Cour suprême Gonzalez contre Google, il entendra encore un autre cas avec des conséquences potentiellement énormes sur la façon dont le discours en ligne est modéré : Twitter contre Taamneh. Et bien que l’affaire ne traite pas directement de l’article 230, l’affaire est similaire à Gonzalez contre Google de quelques manières importantes.
Comme Gonzalez, l’affaire a été portée par la famille d’une victime d’un attentat terroriste. Et, comme Gonzalez, les membres de la famille de la victime utilisent les lois antiterroristes américaines pour tenir Twitter, Google et Facebook responsables, arguant que les plateformes ont aidé les organisations terroristes en ne supprimant pas le contenu de l’EIIS de leurs services. Comme pour le cas précédent, l’inquiétude des plateformes technologiques et des groupes de défense est qu’une décision contre Twitter aurait de profondes conséquences pour les plateformes de médias sociaux et les éditeurs.
« Il y a des implications sur la modération du contenu et si les entreprises pourraient être tenues responsables d’activités violentes, criminelles ou diffamatoires promues sur leurs sites Web », déclare le Bipartisan Policy Center à propos de l’affaire. Si la Cour suprême devait convenir que les plateformes étaient responsables, alors « des politiques de modération de contenu plus importantes et des restrictions sur la publication de contenu devraient être mises en œuvre, ou cela incitera les plateformes à n’appliquer aucune modération de contenu pour éviter la prise de conscience ».
Et, comme l’Electronic Frontier Foundation l’a noté dans son dossier à l’appui de Twitter, les plateformes « seront obligées de prendre des mesures extrêmes et effrayantes pour se protéger d’une responsabilité potentielle ».
Il pourrait même y avoir des ramifications potentielles pour les entreprises dont les services sont principalement exploités hors ligne. « Si une entreprise peut être tenue responsable des actions d’une organisation terroriste simplement parce qu’elle a permis aux membres de cette organisation d’utiliser ses produits dans les mêmes conditions que n’importe quel autre consommateur, alors les implications pourraient être étonnantes », écrit Vox.
Et après
Il faudra encore plusieurs mois avant que nous connaissions l’issue de l’une ou l’autre de ces affaires, bien que les analystes surveilleront de près la procédure pour avoir une idée de l’orientation des juges. Il convient également de noter que ce ne sont pas les seuls cas cruciaux concernant les médias sociaux et le discours en ligne.
Il existe deux autres affaires, liées à des lois restrictives sur les médias sociaux en Floride et au Texas, qui pourraient également se retrouver devant la Cour suprême. Ces deux éléments pourraient également avoir des conséquences importantes pour la modération du contenu en ligne.
Dans l’intervalle, de nombreux partisans soutiennent qu’il vaut mieux laisser la réforme de l’article 230 au Congrès, et non aux tribunaux. Comme l’a récemment écrit Jeff Kosseff, professeur de droit à l’US Naval Academy qui a littéralement écrit le livre sur la section 230, des cas comme Gonzalez « nous mettre au défi d’avoir une conversation nationale sur des questions difficiles impliquant la liberté d’expression, la modération du contenu et les préjudices en ligne. » Mais, soutient-il, la décision devrait appartenir à la branche du gouvernement d’où provient la loi.
«Peut-être que le Congrès déterminera que trop de dommages ont proliféré en vertu de l’article 230 et modifiera la loi pour augmenter la responsabilité pour le contenu promu par algorithme. Une telle proposition ferait face à son propre ensemble de coûts et d’avantages, mais c’est une décision du Congrès, pas des tribunaux.
Tous les produits recommandés par Engadget sont sélectionnés par notre équipe éditoriale, indépendante de notre maison mère. Certaines de nos histoires incluent des liens d’affiliation. Si vous achetez quelque chose via l’un de ces liens, nous pouvons gagner une commission d’affiliation. Tous les prix sont corrects au moment de la publication.