Habituellement, un article scientifique intitulé « Fonctions cellulaires des cellules souches spermatogoniales en relation avec la voie de signalisation JAK/STAT » ne rassemblerait, au mieux, pas un large lectorat. Cependant, lorsque l’article en question est fourni avec des images clairement générées par l’IA, dont l’une montrant un rat avec un ensemble d’organes génitaux franchement étonnamment grands, eh bien, ça fera l’affaire, les amis.
L’article a été rédigé par trois chercheurs chinois, sous la paternité correspondante de l’hôpital Dingjun Hao de Xi’am Hongui, et publié en ligne dans la revue Frontiers in Cell and Developmental Biology (via Ars Technica). Cependant, ceux qui ont examiné l’article de plus près une fois publié ont été étonnés de découvrir l’image d’un rat avec un pénis et des testicules si gros que même le rat lui-même semble le regarder avec surprise.
Si le malheureux rongeur a certainement capté l’attention, l’imagination et le mépris des Twitter, c’était loin d’être le seul signe évident de l’imagerie de l’IA qui en avait inexplicablement fait un ouvrage soi-disant évalué par des pairs. Le pénis du rat lui-même est étiqueté « disséqué », ce que ma vérification orthographique et une référence rapide dans un dictionnaire en ligne confirment n’être pas un mot, tandis qu’une autre image est utilement étiquetée « dck », même si, heureusement, ne semble pas en comporter un.
D’autres problèmes d’étiquetage erroné de l’IA incluent une faute d’orthographe de « cellules souches » et une étiquette pointant vers la partie postérieure du rat intitulée « Testtomcels », que j’ai encore une fois dû rechercher pour m’assurer qu’il ne s’agissait pas d’un terme scientifique réel. Là encore, je ne suis pas un pair qui révise cet article, donc je suppose que je suis tiré d’affaire. Ceux qui l’étaient auraient peut-être dû vérifier un peu plus attentivement.
Ah allez, on va vous montrer l’image maintenant. Ceux qui sont plus délicats souhaiteront peut-être éviter le tweet ci-dessous.
Je ne saurais trop insister sur ce point : une GenAI non réglementée non seulement inhibera, mais nuira également aux progrès futurs, non seulement dans l’art mais aussi dans le monde universitaire. Les chercheurs ont publié des images avec Generative AI. Ceci a été PUBLIÉ dans une revue scientifique à comité de lecture. pic.twitter.com/bb0PDCf8iw15 février 2024
Eh bien, nous vous avions prévenu. L’article incriminé a été rapidement dénoncé sur les réseaux sociaux comme étant manifestement généré par l’IA, car aucun être humain ne l’abandonnerait… en fait, certains êtres humains pourrait dessiner quelque chose d’aussi manifestement grotesque, mais certainement pas dans un travail académique.
La véritable préoccupation ici est de savoir comment quelque chose d’aussi manifestement incorrect et, avouons-le, inapproprié, pourrait passer le processus d’examen par les pairs que beaucoup ont longtemps considéré comme sacro-saint. Il s’agit du processus par lequel les travaux académiques sont vérifiés et examinés par une équipe d’experts dans le même domaine, qui vérifieront ensuite au mieux de leurs capacités que les travaux sont de haute qualité et les valideront pour publication.
Si quelque chose d’aussi évident qu’un rat avec un très gros problème pouvait passer sous les yeux de ses pairs sans que l’on s’en rende compte, alors le potentiel d’une image moins évidente générée par l’IA pour traverser le processus et entrer dans l’œuvre universitaire semble que beaucoup plus probable.
Étant donné que la génération d’images d’IA est désormais une activité courante, et que de nombreuses personnes expérimentent les outils actuellement disponibles, il va de soi qu’une image d’IA plus subtile pourrait être intégrée à d’autres travaux scientifiques si elle échappait à ces contrôles soi-disant rigoureux. Cela, à son tour, ouvre toute une boîte de Pandore en ce qui concerne la validité des données qui peuvent passer le processus académique et potentiellement être citées, référencées et faire partie du statu quo.
Pour l’instant, on peut se moquer du pauvre rat IA étonné. Mais les conséquences potentielles pour la communauté scientifique et la possibilité d’une prolifération d’images inexactes de l’IA parmi des travaux scientifiques importants donnent certainement à réfléchir.