Dmitri Marchenko/Getty Images
Washington, DC, est le port d’attache du gouvernement le plus puissant du monde. Il abrite également 690 000 personnes et 29 algorithmes obscurs qui façonnent leur vie. Les agences municipales utilisent l’automatisation pour filtrer les demandeurs de logement, prédire la récidive criminelle, identifier la fraude à l’aide alimentaire, déterminer si un lycéen est susceptible d’abandonner, éclairer les décisions de détermination de la peine pour les jeunes et bien d’autres choses.
Cet instantané de la vie urbaine semi-automatisée provient d’un nouveau rapport de l’Electronic Privacy Information Center (EPIC). L’organisation à but non lucratif a passé 14 mois à enquêter sur l’utilisation des algorithmes par la ville et a découvert qu’ils étaient utilisés dans 20 agences, dont plus d’un tiers déployés dans la police ou la justice pénale. Pour de nombreux systèmes, les agences municipales ne fourniraient pas tous les détails sur le fonctionnement ou l’utilisation de leur technologie. L’équipe du projet a conclu que la ville utilise probablement encore plus d’algorithmes qu’elle n’a pas été en mesure de découvrir.
Les résultats sont notables au-delà de DC car ils ajoutent à la preuve que de nombreuses villes ont discrètement mis en œuvre des algorithmes bureaucratiques dans leurs départements, où ils peuvent contribuer aux décisions qui affectent la vie des citoyens.
Les agences gouvernementales se tournent souvent vers l’automatisation dans l’espoir d’ajouter de l’efficacité ou de l’objectivité aux processus bureaucratiques, mais il est souvent difficile pour les citoyens de savoir qu’ils sont au travail, et certains systèmes se sont avérés discriminatoires et conduisent à des décisions qui ruinent des vies humaines. Au Michigan, un algorithme de détection de fraude au chômage avec un taux d’erreur de 93 % a causé 40 000 fausses allégations de fraude. Une analyse réalisée en 2020 par l’Université de Stanford et l’Université de New York a révélé que près de la moitié des agences fédérales utilisent une forme ou une autre de systèmes de prise de décision automatisés.
EPIC a creusé profondément dans l’utilisation d’algorithmes par une ville pour donner une idée des nombreuses façons dont ils peuvent influencer la vie des citoyens et encourager les gens d’autres endroits à entreprendre des exercices similaires. Ben Winters, qui dirige le travail de l’organisation à but non lucratif sur l’IA et les droits de l’homme, affirme que Washington a été choisi en partie parce qu’environ la moitié des habitants de la ville s’identifient comme noirs.