L’intelligence artificielle est dans la ligne de mire des gouvernements préoccupés par la manière dont elle pourrait être utilisée à des fins de fraude, de désinformation et d’autres activités malveillantes en ligne ; Aujourd’hui, au Royaume-Uni, un régulateur se prépare à explorer la manière dont l’IA est utilisée dans la lutte contre certains de ces phénomènes, notamment en ce qui concerne les contenus préjudiciables aux enfants.
L’Ofcom, le régulateur chargé de faire appliquer la loi britannique sur la sécurité en ligne, a annoncé son intention de lancer une consultation sur la manière dont l’IA et d’autres outils automatisés sont utilisés aujourd’hui, et peuvent être utilisés à l’avenir, pour détecter et supprimer de manière proactive les contenus illégaux en ligne, en particulier pour protéger les enfants des contenus préjudiciables et identifier les contenus pédopornographiques auparavant difficiles à détecter.
Ces outils feraient partie d’un ensemble plus large de propositions que l’Ofcom met en place et se concentre sur la sécurité des enfants en ligne. Les consultations sur les propositions globales débuteront dans les semaines à venir et la consultation sur l’IA aura lieu plus tard cette année, a déclaré l’Ofcom.
Mark Bunting, directeur du groupe de sécurité en ligne de l’Ofcom, affirme que son intérêt pour l’IA commence par l’examen de la manière dont elle est utilisée aujourd’hui comme outil de dépistage.
« Certains services utilisent déjà ces outils pour identifier et protéger les enfants de ce contenu », a-t-il déclaré dans une interview avec TechCrunch. « Mais il n’existe pas beaucoup d’informations sur la précision et l’efficacité de ces outils. Nous voulons étudier les moyens par lesquels nous pouvons garantir que l’industrie évalue [that] lorsqu’ils les utilisent, en veillant à ce que les risques pour la liberté d’expression et la vie privée soient gérés.
Un résultat probable sera que l’Ofcom recommandera comment et quelles plates-formes devraient évaluer, ce qui pourrait potentiellement conduire non seulement les plates-formes à adopter des outils plus sophistiqués, mais aussi potentiellement à des amendes si elles ne parviennent pas à apporter des améliorations, soit en bloquant le contenu, soit en créant de meilleurs moyens de garder les jeunes utilisateurs. de le voir.
« Comme pour de nombreuses réglementations sur la sécurité en ligne, il incombe aux entreprises de s’assurer qu’elles prennent les mesures appropriées et utilisent les outils appropriés pour protéger les utilisateurs », a-t-il déclaré.
Il y aura à la fois des critiques et des partisans de ces mesures. Les chercheurs en IA découvrent des moyens de plus en plus sophistiqués d’utiliser l’IA pour détecter, par exemple, les deepfakes, ainsi que pour vérifier les utilisateurs en ligne. Pourtant, de nombreux sceptiques estiment que la détection de l’IA est loin d’être infaillible.
L’Ofcom a annoncé la consultation sur les outils d’IA en même temps qu’il publiait ses dernières recherches sur la manière dont les enfants s’engagent en ligne au Royaume-Uni, qui ont révélé que dans l’ensemble, il y a plus de jeunes enfants connectés que jamais auparavant, à tel point que l’Ofcom s’apprête à rompre. l’activité dans des tranches d’âge de plus en plus jeunes.
Près d’un quart, soit 24 %, de tous les enfants âgés de 5 à 7 ans possèdent désormais leur propre smartphone, et si l’on inclut les tablettes, ce chiffre monte à 76 %, selon une enquête menée auprès des parents américains. Cette même tranche d’âge utilise également beaucoup plus les médias sur ces appareils : 65 % ont passé des appels vocaux et vidéo (contre 59 % il y a à peine un an), et la moitié des enfants (contre 39 % il y a un an) regardent des médias en streaming. .
Les restrictions d’âge autour de certaines applications de médias sociaux grand public sont de plus en plus faibles, mais quelles que soient les limites, au Royaume-Uni, elles ne semblent de toute façon pas être respectées. Selon l’Ofcom, environ 38 % des enfants âgés de 5 à 7 ans utilisent les réseaux sociaux. WhatsApp de Meta, avec 37 %, est l’application la plus populaire d’entre elles. Et dans peut-être le premier cas où l’application d’image phare de Meta est soulagée d’être moins populaire que la sensation virale de ByteDance, TikTok s’est avéré être utilisé par 30 % des enfants de 5 à 7 ans, avec Instagram à « seulement » 22 %. Discord complète la liste mais est nettement moins populaire avec seulement 4 %.
Environ un tiers, soit 32 %, des enfants de cet âge se connectent seuls sur Internet, et 30 % des parents ont déclaré qu’ils acceptaient que leurs enfants mineurs aient des profils sur les réseaux sociaux. YouTube Kids reste le réseau le plus populaire auprès des jeunes utilisateurs, avec 48 %.
Les jeux, un éternel favori des enfants, sont désormais utilisés par 41 % des enfants de 5 à 7 ans, 15 % des enfants de cette tranche d’âge jouant à des jeux de tir.
Alors que 76 % des parents interrogés ont déclaré avoir parlé à leurs jeunes enfants de la sécurité en ligne, il existe des points d’interrogation, souligne l’Ofcom, entre ce qu’un enfant voit et ce qu’il pourrait rapporter. En recherchant des enfants plus âgés âgés de 8 à 17 ans, l’Ofcom les a interrogés directement. L’étude a révélé que 32 % des enfants ont déclaré avoir vu du contenu inquiétant en ligne, mais que seulement 20 % de leurs parents ont déclaré avoir signalé quoi que ce soit.
Même en tenant compte de certaines incohérences dans les rapports, « la recherche suggère un décalage entre l’exposition des enfants plus âgés à des contenus en ligne potentiellement dangereux et ce qu’ils partagent avec leurs parents sur leurs expériences en ligne », écrit l’Ofcom. Et les contenus inquiétants ne sont qu’un des défis : les deepfakes sont également un problème. Parmi les enfants âgés de 16 à 17 ans, a indiqué l’Ofcom, 25 % ont déclaré ne pas être sûrs de pouvoir distinguer les faux des vrais en ligne.