Deux législateurs démocrates cherchent à donner aux accusés plus d’informations sur les algorithmes utilisés contre eux lors d’un procès pénal.
Représentants Mark Takano (D-CA) et Dwight Evans (D-PA) réintroduit le Loi sur la justice dans les algorithmes médico-légaux jeudi, qui permettrait aux accusés d’accéder au code source du logiciel utilisé pour analyser les preuves dans le cadre de leur procédure pénale. Cela obligerait également le National Institute of Standards and Technology (NIST) à créer des normes de test pour les algorithmes médico-légaux, auxquelles les logiciels utilisés par les autorités fédérales devraient se conformer.
Le projet de loi servirait à contrôler les résultats imprévus qui pourraient résulter de l’utilisation de la technologie pour aider à résoudre des crimes. La recherche universitaire a mis en évidence les façons les préjugés humains peuvent être intégrés dans les logiciels et comment les systèmes de reconnaissance faciale souvent du mal à différencier les visages noirs, en particulier. L’utilisation d’algorithmes pour prendre des décisions conséquentes dans de nombreux secteurs différents, y compris la résolution de la criminalité et les soins de santé, a sonné l’alarme auprès des consommateurs et des défenseurs à la suite de ces recherches.
Takano, lors d’un entretien téléphonique jeudi, a évoqué le cas d’Oral « Nick » Hillary, accusé d’un meurtre en 2011 à New York. Même si les méthodes traditionnelles d’analyse ADN n’ont pas permis d’associer Hillary au crime, selon rapports Dans le cadre de la procédure judiciaire, les procureurs avaient espéré pouvoir introduire comme preuve une analyse ADN réalisée à partir d’un programme informatique appelé STRmix qui pourrait l’impliquer. Un juge a statué en 2016 que ces résultats ne pouvaient pas être soumis à un procès.
Cet exemple démontre pourquoi le système de justice pénale doit être conscient à la fois des « possibilités et des limites de cette technologie », a déclaré Takano.
Les avocats de la défense et les accusés eux-mêmes « devraient pouvoir remettre en question la technologie et celle-ci ne devrait pas être considérée comme infaillible », a-t-il ajouté. Bien que l’industrie puisse contester l’impact du projet de loi sur sa propriété intellectuelle, Takano a déclaré qu’il ne pensait pas que « les droits de propriété en matière de profit l’emportent sur les droits à une procédure régulière des accusés criminels ».
Takano a reconnu que l’acquisition ou l’embauche de l’expertise approfondie nécessaire pour analyser le code source n’était peut-être pas possible pour tous les accusés. Mais exiger du NIST qu’il crée des normes pour les outils pourrait au moins leur donner un point de départ pour comprendre si un programme correspond aux normes de base.
Takano a présenté les versions précédentes du projet de loi en 2019 et 2021, mais elles n’ont pas été examinées par une commission.
Bien que le projet de loi ne bénéficie pas encore du parrainage républicain, Takano est optimiste quant au fait que la question puisse transcender les partis. Il a souligné l’inquiétude des deux partis concernant l’octroi d’un pouvoir de surveillance excessif aux forces de l’ordre, soulevée par le débat sur la réautorisation de l’article 702 de la loi sur la surveillance des renseignements étrangers.
« Il y a des électeurs dans les deux partis pour cela », a déclaré Takano. « J’en suis convaincu. »