Il n’a certainement pas fallu longtemps pour que l’autre chaussure de l’IA tombe, avec la technologie émergente déjà pervertie pour commettre des escroqueries de confiance et générer du contenu de spam. Nous pouvons maintenant ajouter la censure à cette liste car le Gazette du globe rapporte que le conseil scolaire de Mason City, Iowa, a commencé à tirer parti de la technologie de l’IA pour cultiver des listes de livres potentiellement interdits dans les bibliothèques du district avant l’année scolaire 2023/24.
En mai, la législature de l’État contrôlée par les républicains a été adoptée et le gouverneur Kim Reynolds a ensuite signé le dossier du Sénat 496 (SF 496), qui a promulgué des changements radicaux au programme d’enseignement de l’État. Plus précisément, il limite le nombre de livres pouvant être mis à disposition dans les bibliothèques scolaires et les salles de classe, exigeant que les titres soient « adaptés à l’âge » et sans « descriptions ou représentations visuelles d’un acte sexuel », conformément au code de l’Iowa 702.17.
Mais veiller à ce que chaque livre des archives du district respecte ces nouvelles règles se transforme rapidement en une entreprise colossale. « Nos bibliothèques de classe et d’école ont de vastes collections, composées de textes achetés, donnés et trouvés », a déclaré Bridgette Exman, surintendante adjointe du programme et de l’enseignement au Mason City Community School District, dans un communiqué. « Il n’est tout simplement pas possible de lire chaque livre et de filtrer ces nouvelles exigences. »
En tant que tel, le district scolaire de Mason City fait appel à l’IA pour analyser les textes suspects à la recherche d’idées et de descriptions interdites, car il y a tout simplement trop de titres pour que les réviseurs humains puissent les couvrir seuls. Selon le district, une « liste principale » est d’abord bricolée à partir de « plusieurs sources » en fonction de l’existence ou non de plaintes antérieures pour contenu sexuel. Les livres de cette liste sont ensuite scannés par un « logiciel d’intelligence artificielle » – le district ne précise pas quels systèmes seront utilisés – qui indique aux censeurs de l’État s’il y a ou non une représentation du sexe dans le livre.
« Franchement, nous avons des choses plus importantes à faire que de passer beaucoup de temps à essayer de comprendre comment protéger les enfants des livres », a déclaré Exman. PopSci par email. « En même temps, nous avons une obligation légale et éthique de nous conformer à la loi. Notre objectif ici est vraiment un processus défendable.
Jusqu’à présent, l’IA a signalé 19 livres à supprimer. Ils sont les suivants :
Tous les produits recommandés par Engadget sont sélectionnés par notre équipe éditoriale, indépendante de notre maison mère. Certaines de nos histoires incluent des liens d’affiliation. Si vous achetez quelque chose via l’un de ces liens, nous pouvons gagner une commission d’affiliation. Tous les prix sont corrects au moment de la publication.