Rien qu’au cours du dernier semestre 2022, de nombreux services – des plateformes de jeux conçues pour les enfants aux applications populaires comme TikTok ou Twitter pour tous les âges – ont été accusés de mettre en danger les jeunes utilisateurs, d’exposer les mineurs à l’automutilation et à l’exploitation financière et sexuelle. Certains enfants sont morts, leurs parents ont poursuivi en justice et certaines entreprises technologiques ont été protégées de leurs contestations judiciaires par l’article 230. Alors que les régulateurs et les parents continuent d’examiner comment les enfants deviennent accros à la visite de destinations Web préférées qui pourraient les exposer à un risque de préjudice grave, une pression à laquelle il est de plus en plus difficile d’échapper a incité les entreprises technologiques à assumer davantage la responsabilité de protéger la sécurité des enfants en ligne.
Aux États-Unis, protéger les enfants des dangers en ligne est toujours un devoir largement laissé aux parents, et certaines entreprises technologiques préféreraient que cela reste ainsi. Mais d’ici 2024, une loi californienne sur la sécurité des enfants en ligne, la première du genre, devrait entrer en vigueur, conçue pour transférer une partie de cette responsabilité aux entreprises technologiques. La loi californienne Age-Appropriate Design Code Act (AB 2273) obligera les entreprises technologiques à concevoir des produits et des services en pensant à la sécurité des enfants, en exigeant une vérification de l’âge et en limitant les fonctionnalités telles que la lecture automatique ou la découverte de comptes mineurs via des outils de recherche d’amis. Cela n’arrivera pas, cependant, si NetChoice réussit.
L’association professionnelle de l’industrie technologique – avec des membres tels que Meta, TikTok et Google – a intenté cette semaine une action en justice pour bloquer la loi, arguant dans une plainte que la loi est non seulement potentiellement inconstitutionnelle, mais qu’elle cause également des dommages prétendument ignorés aux mineurs.
Certaines entreprises technologiques n’aiment pas la loi californienne, a déclaré NetChoice dans un communiqué, car elles allèguent qu’elle « viole le premier amendement » à plusieurs reprises. Ils disent également qu’elle accorde à la Californie « un pouvoir incontrôlé pour contraindre les décisions de modération que le gouvernement préfère ». En gardant les termes de la loi délibérément vagues et en ne définissant jamais vraiment ce qui est considéré comme « préjudiciable », même les entreprises qui tentent de se conformer de bonne foi pourraient se retrouver accusées de violations imprévisibles, selon la plainte.
Certaines entreprises technologiques ont déjà pris des mesures pour renforcer les protections en ligne pour les jeunes utilisateurs cette année. AB 2273 est basé sur une loi britannique sur la sécurité des enfants en ligne adoptée l’année dernière qui a incité de nombreuses entreprises technologiques à modifier leurs politiques, notamment Google, Instagram, Facebook, Pinterest, TikTok, Snap et YouTube, a rapporté le New York Times. Aucune de ces entreprises technologiques n’a immédiatement répondu à la demande de commentaires d’Ars.
La loi californienne va cependant plus loin en obligeant les entreprises technologiques à soumettre des « évaluations d’impact sur la protection des données », qui détailleraient les risques et les dispositions en matière de sécurité des enfants avant de lancer de nouvelles fonctionnalités. Toutes les entreprises en ligne sont actuellement tenues de soumettre ces DPIA avant l’entrée en vigueur de l’AB 2273 en juillet 2024, puis elles sont tenues de se soumettre à des examens biennaux.
Ces DPIA visent à accroître la responsabilité en incitant les entreprises à considérer comment les fonctionnalités du produit pourraient nuire aux jeunes utilisateurs, puis à créer des délais pour les efforts d’atténuation afin de prévenir tout dommage identifié. Ils s’efforcent également de s’assurer que les entreprises appliquent effectivement leurs propres politiques affichées, ce que la plainte de NetChoice prétend spécifiquement déraisonnable sans que l’État ne définisse la loi en termes plus concrets :
« AB 2273 délègue de manière inconstitutionnelle les fournisseurs de services en ligne pour agir en tant que censeurs itinérants d’Internet à la demande de l’État. Les fournisseurs doivent (i) évaluer les risques indéfinis que leurs services et contenus « pourraient » poser pour le « bien-être » et « l’intérêt supérieur » des enfants ; (ii) concevoir un plan pour prévenir ou atténuer ces risques ; et (iii) développer, publier et appliquer les conditions d’utilisation et les « normes communautaires ».
Selon la plainte, NetChoice considère la loi comme une tentative inappropriée de l’État de censurer les entreprises technologiques tout en menaçant de « sanctions financières écrasantes » pour toute violation perçue, alléguant que ce qui constitue une violation sera déterminé à l’entière discrétion du gouvernement.
« Se tromper sur ce que ces dispositions proscrivent est d’un coût prohibitif – les sanctions même pour des erreurs de négligence pourraient dépasser 20 milliards de dollars », indique la plainte.