La ville de New York va bientôt commencer à tester une technologie utilisant l’IA pour détecter des armes aux tourniquets du métro, Le maire Eric Adams a déclaré jeudi. L’annonce d’Adams intervient une semaine après une altercation dans une station de métro de Brooklyn au cours de laquelle un homme se trouvait abattu avec son propre pistolet après l’avoir tiré sur un autre passager.
Adams a déclaré que la ville s’associe à Évoluer, une société de détection d’armes basée au Massachusetts dont les détecteurs sont utilisés dans les écoles et les lieux à travers le pays. Evolv, cependant, a fait l’objet d’un examen minutieux quant à l’exactitude de ses machines, ainsi que de deux enquêtes gouvernementales et d’un recours collectif intenté par les actionnaires.
Le projet pilote démarrera dans 90 jours, conformément à la loi POST, qui oblige le service de police de la ville de New York à divulguer les technologies de surveillance qu’il utilise et à publier des déclarations d’impact et d’utilisation avant que de nouvelles technologies ne soient mises en place. Adams a déclaré que la ville utiliserait également la période d’attente de 90 jours pour contrôler d’autres vendeurs. « Cette ville a un maire technologique », a déclaré Adams. « Apportez-nous vos technologies. Testons-le.
Adams n’a pas précisé où les scanners seront installés ni combien seront utilisés. Les scanners Evolv sont déjà utilisé à Citi Field – Evolv est le « fournisseur officiel de sélection des fans des Mets » – Lincoln Center et du Metropolitan Museum of Art. Adams installé temporairement un scanner Evolv devant l’entrée de l’hôtel de ville en 2022 après une fusillade a ouvert le feu sur un wagon de métro à Brooklyn. Cette année-là, la ville a exécuté un pilote Evolv similaire dans un hôpital du Bronx après qu’un homme ait été abattu dans la salle d’attente des urgences. Des dizaines de districts scolaires à travers le pays ont également installé des scanners Evolv pour tenter d’empêcher les fusillades sur les campus.
Les scanners d’Evolv auraient signalé les parapluies comme des armes à feu, mais n’auraient pas détecté les tubes en aluminium et en acier découpés pour ressembler à des canons d’armes à feu.
Les scanners d’Evolv ressemblent à des détecteurs de métaux mais sont équipés d’une IA. L’entreprise réclamations les scanners utilisent «des champs électromagnétiques sûrs à ultra-basse fréquence et des capteurs avancés pour détecter les armes dissimulées». Le PDG d’Evolv, Peter George, a affirmé que les scanners pouvaient détecter pratiquement n’importe quel type d’arme. « Nous avons signé toutes les menaces qui existent : toutes les armes qui existent, toutes les bombes, tous les grands couteaux tactiques », a déclaré George en 2021.
Mais les rapports suggèrent que la technologie ne fonctionne pas vraiment bien. Les scanners d’Evolv ont aurait signalé les parapluies comme des armes à feu mais n’a pas réussi à détecter des tubes d’aluminium et d’acier découpés pour ressembler à des canons d’armes à feu. L’année dernière, L’interception signalé que certains districts scolaires étaient frustrés par le fait que les machines d’Evolv ne parvenaient pas à détecter les couteaux dans les sacs à dos des élèves ou identifiaient par erreur les boîtes à lunch comme des bombes.
En 2022, la publication de recherche sur l’industrie de la surveillance IPVM signalé qu’Evolv avait payé pour des tests effectués par le Centre national pour la sûreté et la sécurité des sports-spectacles, que la société a décrit plus tard comme « totalement indépendant ». Evolv a également édité le rapport prétendument indépendant, supprimant les informations sur les faibles taux de détection de certaines armes, selon le rapport IPVM.
En octobre dernier, la Federal Trade Commission a ouvert une enquête sur si le système de détection d’IA d’Evolv fonctionne comme annoncé, et en février, Evolv divulgué que la Securities and Exchange Commission avait également ouvert une « enquête d’information non publique ». En mars, les investisseurs a déposé un recours collectif alléguant que l’entreprise avait dénaturé l’efficacité de ses produits et « trompé le grand public, les clients et les investisseurs ».
Evolv reste néanmoins le fournisseur préféré d’Adams. Certains des principaux donateurs du maire détiennent des investissements importants dans Evolv, le Nouvelles quotidiennes de New York signalé en 2022. « Imaginez-moi dire : « Non, nous n’allons pas investir dans une technologie capable d’identifier les armes à feu parce que quelqu’un investisseur dans cette technologie » », a déclaré Adams en 2022. « Vous savez, une bonne technologie sauve des vies. J’ai l’obligation et la responsabilité de le présenter.
Le pilote a déjà suscité des critiques. « Les systèmes de détection des armes à feu sont défectueux et déclenchent fréquemment de fausses alarmes », a déclaré dans un communiqué la Legal Aid Society, la plus grande organisation à but non lucratif de défense publique de la ville. « Contrairement aux affirmations du maire, la ville de New York ne devrait pas servir de terrain d’essai pour les sociétés de surveillance ; le public n’a pas consenti à faire partie de ces expériences.
Adams a noté que les crimes violents dans le métro, liés aux armes à feu ou autres, restent relativement rares. La criminalité est en baisse dans toute la ville, avec une baisse de 16 % entre février et mars, a déclaré Adams – mais les sondages suggèrent que les New-Yorkais se sentir de plus en plus en danger de toute façon. « S’ils ne se sentent pas en sécurité, alors nous n’accomplissons pas notre tâche », a déclaré Adams. « Les statistiques n’ont pas d’importance si les gens ne croient pas se trouver dans un environnement sûr. »