Une loi allemande obligeant les plateformes de médias sociaux à répondre rapidement aux signalements de discours de haine – et dans certains cas à supprimer les discours illégaux dans les 24 heures après qu’ils ont été portés à leur attention – semble fournir un test précoce pour savoir si Twitter, propriété d’Elon Musk, faire face à des conséquences juridiques importantes sur la façon imprudente dont il exploite l’entreprise.
Depuis que « l’absolutiste de la liberté d’expression » autoproclamé a pris le contrôle de Twitter à la fin du mois d’octobre et s’est mis à des licenciements massifs et à des changements de politique radicaux (y compris, ce week-end, la levée d’une suspension permanente de l’ancien président américain Trump), l’inquiétude grandit parmi les législateurs et les utilisateurs de médias sociaux que Twitter pourrait dégénérer en un paysage infernal de modération de contenu faible ou nulle sous son nouveau propriétaire milliardaire liquidateur de personnel et épris de shitpost.
Le fait est que certaines lois sur la modération de contenu s’appliquent à Twitter à l’échelle internationale – et l’Allemagne en a une : la loi « Application sur les réseaux sociaux », communément appelée NetzDG (une version abrégée de son nom allemand complet), autorise des amendes pouvant aller jusqu’à € 50 millions pour non-respect des rapports de suppression des discours de haine illégaux.
Mais étant donné les licenciements massifs de Musk sur Twitter – et un certain nombre de démissions notables depuis qu’il a pris ses fonctions, y compris le départ de l’ancien responsable de la confiance et de la sécurité, Yoel Roth – on ne sait pas combien d’expertise de base en matière de contenu et de ressource de modération reste en interne pour lui permettre de se conformer aux diverses exigences réglementaires existantes qui s’imposent à l’entreprise sur les marchés internationaux comme l’Allemagne et l’Inde.
Selon certaines estimations, il ne reste que des centaines d’employés sur Twitter sur un effectif antérieur d’environ 7 500 après l’ultimatum « hardcore » de Musk au personnel la semaine dernière.
Des bureaux internationaux entiers auraient été décimés, attirant rapidement l’attention des législateurs – comme en Espagne, où des dizaines d’employés auraient été licenciés, ce qui a conduit le ministre du travail à tweeter un avertissement à l’entreprise plus tôt ce mois-ci sur la nécessité de se conformer à la législation locale du travail (qu’elle a suivi en disant que l’inspection du travail agissait sur l’affaire après des plaintes syndicales).
Le personnel en Allemagne a également fait partie des employés internationaux licenciés de Twitter – un syndicat local ayant signalé plus tôt ce mois-ci qu’un grand nombre d’ingénieurs en logiciel avaient reçu le fameux e-mail de Musk « accepte d’être hardcore ou démissionne » à la fin de la semaine dernière. La semaine dernière également, Reuters a rendu compte des remarques d’un porte-parole du gouvernement allemand – qui a déclaré qu’il surveillait les développements sur Twitter avec « une inquiétude croissante ».
Un cabinet d’avocats spécialisé dans l’informatique en Allemagne, JunIT Rechtsanwälte, a une audience ce jeudi pour une procédure d’injonction contre Twitter. Il accuse l’entreprise de ne pas avoir donné suite aux signalements de discours de haine et de supprimer les contenus illégaux, comme l’exige la loi NetzDG.
Le fondateur et associé directeur de l’entreprise, Chan-jo Jun, a tweeté un marqueur « réservez la date » plus tôt ce mois-ci – disant que Twitter devra répondre de son incapacité à agir sur les rapports de discours de haine lors de l’audience publique où il a dit qu’il postulerait pour une injonction à l’échelle de la plate-forme.
En vertu de la loi allemande, beaucoup de choses peuvent être qualifiées de discours de haine illégaux – partager des symboles nazis ou nier l’Holocauste, par exemple – car elle possède certaines des lois anti-discours de haine les plus strictes du monde occidental.
Il est donc clair que si Musk cherche à appliquer partout sur Twitter une saveur purement centrée sur l’Amérique de la liberté d’expression – et / ou n’a tout simplement pas suffisamment de personnel travaillant sur la modération du contenu et suffisamment de ressources pour répondre aux rapports sur le contenu illégal – cela le met sur une collision directe avec la loi allemande pour les débutants.
La loi NetzDG est entrée en vigueur en Allemagne en 2017 – et a été encore renforcée à la mi-2020, lorsque le parlement allemand a accepté d’imposer aux plateformes une obligation de signalement qui les oblige à signaler certains types de « contenus criminels » au Tribunal pénal fédéral. Poste de police.
Alors qu’une nouvelle réforme de la loi, l’année dernière, s’est concentrée sur le renforcement des droits des utilisateurs en augmentant la transparence sur les plateformes – en obligeant les entreprises technologiques à transmettre les détails des retraits aux chercheurs, entre autres changements.
Bien que NetzDG soit en vigueur depuis plusieurs années en Allemagne, il est resté un sujet de controverse – les critiques affirmant que son existence a un effet dissuasif sur la liberté d’expression en ligne en encourageant les entreprises de médias sociaux à réduire leurs risques et à bloquer les utilisateurs de médias sociaux. contenu.
Dans le même temps, pendant des années, la blague liée à la modération du contenu sur Twitter pour les utilisateurs de la plate-forme sur les marchés en dehors de l’Allemagne souhaitant échapper rapidement à la haine en ligne qui a prospéré sur Twitter au cours des années précédentes, avant Musk – lorsque son leadership antérieur a permis un la floraison toxique du discours suprémaciste blanc et néonazi américain via une application terne et incohérente des normes communautaires revendiquées – était de changer leur emplacement en Allemagne dans les paramètres et de faire purger tout ce discours toxique puisque Twitter se conformait au moins aux règles allemandes en matière de discours de haine.
Il serait donc plutôt ironique maintenant que la loi allemande soit le principal (le seul ?) outil juridique disponible pour reprocher à Musk d’avoir démantelé les normes de modération de contenu de Twitter en ce moment. (Une loi paneuropéenne sur les services numériques, également axée sur la réglementation des retraits de contenus illégaux, n’entrera en vigueur qu’en février de l’année prochaine au plus tôt).
C’est un grand « si » cependant. Parce qu’une question urgente pour les régulateurs internationaux est de savoir si Musk prêtera une attention particulière au respect des lois relatives à la parole, ou de toute loi, en dehors des États-Unis (De même, l’inquiétude grandit aux États-Unis quant à la conformité de Musk-Twitter avec le décret de consentement de la FTC – conduisant à une déclaration « coup de poing à travers l’arc » plus tôt ce mois-ci par le régulateur américain.)
En octobre, la plate-forme de messagerie Telegram a été frappée de deux amendes NetzDG en Allemagne, totalisant environ 5 millions d’euros – pour violation des exigences de fournir des canaux permettant aux utilisateurs de signaler les discours de haine illégaux et non-désignation d’un représentant local pour recevoir des documents. avec un effet juridiquement contraignant – un niveau de pénalité qui semble peu susceptible de causer à Musk plus de nuits blanches qu’il n’en a déjà en ayant acheté Twitter.
Bien que, sur le papier au moins, la loi allemande autorise des sanctions plus importantes en cas de violation, ce qui pourrait s’accumuler pour une plate-forme publicitaire qui a vu de grands annonceurs fuir le rachat après Musk, ce qui aggrave les soucis financiers majeurs.
Pourtant, une autre question à laquelle les régulateurs internationaux pourraient bientôt être confrontés est de savoir comment (ou même si) ils sont en mesure de percevoir des amendes et d’appliquer des conséquences juridiques contre un Twitter « autonome » – si, par exemple, Musk retire tous les employés de leurs marchés et ne laisse aucune entité locale à desservir.
Quelle est leur voie pour faire respecter la conformité ?
Un scénario cauchemardesque pour les régulateurs internationaux est donc, sûrement, la non-conformité délibérée de Musk – leur laissant le choix entre le laisser s’en tirer en faisant publiquement un pied de nez à leurs règles ou être obligé de punir essentiellement les utilisateurs locaux de Twitter en émettant une interdiction du service et essayant de bloquer l’accès au sein de leurs propres marchés (autant que cela est même possible dans des régions riches comme l’Europe où les utilisateurs peuvent utiliser des VPN pour contourner les blocages géographiques, etc.).
Politiquement, une interdiction de service serait probablement très impopulaire – et facilement traquée par Musk comme une censure scandaleuse – mettant les législateurs dans une impasse.
Par conséquent, les menaces rapidement tweetées des régulateurs internationaux d’interdire Twitter (comme celle intégrée ci-dessous) pourraient apparaître comme plutôt creuses, dans les semaines et les mois à venir (et au-delà…), si aucune de ces entités ne peut donner suite et réellement appliquer contre les briseurs de règles irrévérencieux.
(Un autre cas qui semble instructif ici est Clearview AI – qui a fait face à une multitude de sanctions de la part des régulateurs européens de la protection des données ces derniers mois, mais il est moins clair si l’une de ces amendes sera réellement recouvrable car la société américaine continue de nier avoir enfreint les règles ou même que ces lois européennes s’appliquent à son activité.)
L’audience du tribunal allemand qui se profile pour Twitter cette semaine n’est qu’un des premiers exemples des conséquences juridiques en cours de la prise de contrôle de Musk sur Twitter. Mais cela ressemble à une montre – autant pour voir comment (ou même si) Musk-Twitter répond à la procédure judiciaire et à la procédure judiciaire que pour toute amende pour contravention de stationnement qui pourrait s’ensuivre s’il y a un constat d’échec du retrait du discours de haine de NetzDG.
Une chose est claire : les régulateurs du monde entier devraient s’attacher pour une course cahoteuse alors que Musk conduit la voiture de clown Twitter hors de la mine d’or.