Mardi, la FTC a interdit à l’unanimité à l’application de messagerie sociale NGL d’héberger des mineurs dans le cadre d’un règlement à 5 millions de dollars. Cette interdiction, la première du genre, fait suite à des révélations selon lesquelles l’entreprise a activement commercialisé l’application auprès des enfants en recourant à des tactiques de leurre et d’échange, en s’appuyant sur de fausses déclarations concernant la modération par l’IA et en ciblant des enfants « populaires » (comme les pom-pom girls) pour tenter d’attirer d’autres personnes dans l’enfer des prédateurs.
« NGL a commercialisé son application auprès des enfants et des adolescents tout en sachant qu’elle les exposait à la cyberintimidation et au harcèlement », a écrit la présidente de la FTC, Lina Khan, dans un communiqué de presse de l’agence. « Compte tenu du mépris irréfléchi de NGL pour la sécurité des enfants, l’ordonnance de la FTC interdirait à NGL de commercialiser ou de proposer son application aux moins de 18 ans. Nous continuerons de sévir contre les entreprises qui exploitent illégalement les enfants à des fins lucratives. »
La FTC et le bureau du procureur de Los Angeles ont travaillé ensemble sur la plainte, qui dresse le portrait d’une entreprise exploiteuse qui a donné la priorité à la construction de son graphe social au détriment du respect de l’éthique la plus fondamentale. (Cela vous semble familier ?) Bien que NGL soit encore une application relativement spécialisée, loin de la popularité d’Instagram, TikTok et d’autres plateformes de premier plan, sa popularité a « explosé », selon Le Washington PostEn 2022, elle est brièvement devenue l’application la plus téléchargée sur l’App Store iOS.
L’entreprise commercialise l’application comme un endroit où l’on peut envoyer des messages anonymes à des amis et contacts inconnus d’autres réseaux sociaux. Cela semble être une recette pour un désastre. Mais la FTC affirme que l’entreprise a aggravé la situation en affirmant faussement qu’elle utilisait « une modération de contenu par IA de classe mondiale » avec « des algorithmes d’apprentissage profond et de recherche de modèles » pour prévenir la cyberintimidation et d’autres comportements inquiétants. Elle a également envoyé de faux messages générés par ordinateur – que les utilisateurs pensaient provenir de leurs vrais amis – avec des messages provocateurs tels que « Êtes-vous hétéro ? » et « Je sais ce que vous avez fait ».
En outre, les pratiques commerciales prédatrices de l’entreprise incluaient également des tactiques de vente incitative par appât et changement, qui promettaient de révéler l’identité d’« amis » anonymes (qui étaient peut-être des faux) s’ils payaient jusqu’à 10 dollars par semaine pour un abonnement premium. Après avoir payé, le service ne fournissait que des « indices » inutiles comme l’horodatage du message, la localisation générale de l’expéditeur et s’il utilisait un iPhone ou un téléphone Android. Il activait également des frais récurrents et difficiles à annuler auxquels les utilisateurs ne s’attendaient pas.
Pire encore, Joao Figueiredo, l’un des cofondateurs de l’entreprise, aurait demandé aux employés de regarder « les acclamations des lycéens ». [Instagram] pages » pour trouver « les enfants qui sont populaires et qui souhaitent publier et inciter leurs amis à publier ». Un utilisateur aurait signalé que son ami avait tenté de se suicider à cause de son expérience sur NGL.
Lorsque les consommateurs se sont plaints, les dirigeants de NGL les auraient traités de « pigeons ».
La FTC et le procureur de Los Angeles ont ajouté que NGL avait violé la règle COPPA. Cette dernière oblige les entreprises dont les applications sont « destinées aux enfants de moins de 13 ans ou utilisées sciemment par eux à informer leurs parents des informations personnelles qu’elles collectent ». Parmi les autres accusations figurent une violation de la loi Restore Online Shoppers’ Confidence Act.
En outre, l’entreprise NGL n’aurait pas tenté de vérifier l’âge des utilisateurs, n’aurait pas obtenu le consentement des parents pour collecter et utiliser les données des préadolescents et n’aurait pas honoré les demandes des parents de supprimer les données des enfants. Enfin, l’entreprise aurait « conservé les données des enfants plus longtemps que raisonnablement nécessaire pour atteindre l’objectif pour lequel les données ont été collectées ».
Selon les termes de l’accord, NGL et ses cofondateurs ont accepté de payer 4,5 millions de dollars pour « fournir réparation aux consommateurs » et une amende civile de 500 000 dollars au bureau du procureur de Los Angeles. À partir de maintenant, l’entreprise devra exiger une barrière d’âge qui empêche les utilisateurs nouveaux et actuels de moins de 18 ans d’utiliser l’application, supprimer toutes les informations associées aux moins de 13 ans, s’engager à ne pas dénaturer l’origine des messages, faire de fausses déclarations sur la technologie de l’IA et obtenir le consentement des consommateurs avant de leur facturer des abonnements (tout en simplifiant l’annulation des frais récurrents).
Il reste à voir si la FTC peut utiliser la décision unanime et bipartite contre NGL comme précédent pour s’attaquer à de plus gros poissons dans la sphère sociale en utilisant ses propres tactiques de marketing manifestement contraires à l’éthique.