Une nouvelle étude menée par une équipe internationale de scientifiques du Canada, des États-Unis, d’Australie et de Taïwan rapporte que l’intelligence artificielle utilisée pour lire les rayons X et les tomodensitogrammes peut prédire la race d’une personne avec une précision de 90 % – et les humains ne le peuvent pas. Les scientifiques, y compris ceux du Massachusetts Institute of Technology et de la Harvard Medical School, n’ont aucune idée de la manière dont le programme procède.
« Lorsque mes étudiants diplômés m’ont montré certains des résultats contenus dans cet article, j’ai en fait pensé que ce devait être une erreur », a publié Marzyeh Ghassemi, professeur adjoint de génie électrique et d’informatique au MIT et co-auteur de l’article. dans
, a déclaré au Boston Globe. « Honnêtement, je pensais que mes élèves étaient fous. »
L’étude a commencé après que les scientifiques ont remarqué qu’un programme d’IA pour l’examen des radiographies pulmonaires était plus susceptible de manquer des signes de maladie chez les patients noirs. « Nous nous sommes demandé, comment est-ce possible si les ordinateurs ne peuvent pas dire la race d’une personne? » un co-auteur et professeur agrégé à la Harvard Medical School Leo Anthony Celi a déclaré au
.
Les chercheurs ont enseigné le programme d’IA en lui montrant un grand nombre d’images étiquetées selon la race de différentes parties du corps, y compris la poitrine, la main et la colonne vertébrale – sans marqueurs évidents de race, tels que la couleur de la peau ou la texture des cheveux – puis des ensembles d’images non étiquetées images. Le programme a identifié la race dans les images non marquées avec une précision de plus de 90 % et a pu différencier les patients noirs des blancs même lorsque les images provenaient de personnes de même taille, âge ou sexe.