Un de l’exemple le plus remarquable de l’utilisation de la technologie prédictive est l’histoire de Robert McDaniel, détaillée par le journaliste Matt Stroud dans The Verge en mai 2021. McDaniel est un résident d’Austin, un quartier de Chicago qui a vu 72 homicides, près de 10 pour cent du total de la ville , rien qu’en 2020. Malgré le fait que McDaniel n’avait aucun antécédent de violence (il avait été arrêté pour avoir vendu de l’herbe et tiré aux dés), un programme de police prédictive du service de police de Chicago a déterminé en 2013 qu’il était une « personne d’intérêt » – littéralement. Dans le drame policier 2011-2016 de CBS du même nom, « la machine », créée par le protagoniste de la série, ne peut que déterminer qu’une personne sera soit la victime, soit l’auteur d’un crime violent, mais pas lequel. De même, l’algorithme utilisé par le CPD indiquait que McDaniel était plus susceptible que 99,9% de la population de Chicago d’être impliqué dans une fusillade, bien que de quel côté de l’arme il se trouve soit inconnu.
Équipés de cette « connaissance », les policiers de Chicago ont placé McDaniel sur leur liste de sujets stratégiques, connue plus tard sous le nom de « liste de chaleur », et l’ont surveillé de près, bien qu’il ne soit pas soupçonné d’être impliqué dans un crime spécifique. Parce qu’une partie de cette surveillance était manifeste, cela a suggéré à d’autres dans son quartier qu’il pourrait avoir une sorte de lien avec la police – qu’il était peut-être un informateur, une réputation extrêmement préjudiciable.
Comme on pouvait s’y attendre, McDaniel a été abattu deux fois depuis qu’il a été identifié pour la première fois par le CPD : d’abord en 2017, peut-être en partie à cause de la publicité générée par son apparition cette année-là dans un documentaire allemand, Pré-crime, qu’il espérait aider à effacer son nom; et plus récemment en 2020. Il a déclaré au Verge que les deux fusillades étaient dues à la surveillance du CPD elle-même et au soupçon qui en résultait de coopérer avec les forces de l’ordre. « Du point de vue de McDaniel », écrit Stroud, « la liste de sélection a causé le mal que ses créateurs espéraient éviter : elle a prédit une fusillade qui n’aurait pas eu lieu si elle n’avait pas prédit la fusillade. »
C’est assez vrai, mais il y a un modèle plus profond à observer ici aussi. En raison des données policières du passé, le quartier de McDaniel, et donc les gens qui s’y trouvent, ont été étiquetés comme violents. Le programme disait alors que l’avenir serait le même, c’est-à-dire qu’il n’y aurait pas d’avenir, mais simplement des réitérations du passé, plus ou moins identiques à lui. Ce n’est pas simplement une prophétie auto-réalisatrice, bien que ce soit certainement cela : c’est un système conçu pour ramener le passé dans le futur, et ainsi empêcher le monde de changer.
Le programme qui identifié McDaniel semble avoir été développé spécifiquement pour le DPC par un ingénieur de l’Illinois Institute of Technology, selon un rapport antérieur de Stroud. Le programme de DPC a identifié environ 400 personnes les plus susceptibles d’être impliquées dans des crimes violents et les a inscrites sur sa liste de prédilection. Ce programme a commencé en 2012 et a été interrompu en 2019, comme l’a révélé cette année-là un rapport de surveillance du gouvernement de la ville de Chicago qui a soulevé des inquiétudes à son sujet, y compris l’exactitude de ses conclusions et de ses politiques concernant le partage de données avec d’autres agences. L’algorithme CPD personnalisé se serait concentré sur les individus, et il ressemble probablement à un large éventail de programmes utilisés par les forces de l’ordre et les militaires dont le public a peu de connaissance. Par exemple, en 2018, le journaliste Ali Winston a rapporté dans The Verge que la société de surveillance Palantir, fondée par Peter Thiel, testait secrètement une technologie similaire à la Nouvelle-Orléans depuis 2012 sans en informer de nombreux responsables de la ville.