Axon a suspendu les travaux sur un projet de construction de drones équipés de ses Tasers. La majorité de son comité d’éthique de l’intelligence artificielle a démissionné après l’annonce du plan la semaine dernière.
Neuf des 12 membres ont déclaré dans une lettre de démission qu’il y a quelques semaines à peine, le conseil d’administration avait voté 8 contre 4 pour recommander à Axon de ne pas aller de l’avant avec une étude pilote pour un concept de drone équipé de Taser. « Dans cette conception limitée, le drone équipé du Taser ne devait être utilisé que dans des situations où il pourrait éviter qu’un policier utilise une arme à feu, sauvant ainsi potentiellement une vie », ont écrit les neuf membres du conseil d’administration. Ils ont noté qu’Axon pourrait refuser de suivre cette recommandation et travaillaient sur un rapport concernant les mesures que l’entreprise devrait avoir en place si elle devait aller de l’avant.
Les neuf personnes ont déclaré avoir été aveuglées par une annonce de la société jeudi dernier – neuf jours après que 19 élèves du primaire et deux enseignants ont été tués lors d’une fusillade à Uvalde, au Texas – concernant le démarrage du développement d’un tel drone. Il avait pour objectif de « neutraliser un tireur actif en moins de 60 secondes ». Axon a déclaré avoir « demandé au conseil d’administration de se réengager et d’envisager de publier des conseils et des commentaires supplémentaires sur cette capacité ».
Le PDG d’Axon, Rick Smith, a suggéré que les drones pourraient être déployés comme mesure pour empêcher les tirs de masse. Comme Reuter notes, il envisageait des drones stationnés dans les couloirs de l’école et ayant la capacité d’entrer dans les pièces par les évents. Le système de drones, qui, selon Axon, pourrait être prêt dès 2024, aurait coûté aux écoles environ 1 000 dollars par an.
Le système aurait puisé dans les flux de caméras de sécurité pour détecter les événements de tireurs actifs en utilisant à la fois la surveillance humaine et l’intelligence artificielle. Alors qu’un opérateur humain aurait pris la décision finale de tirer ou non un Taser, Axon prévoyait de développer des « algorithmes de ciblage » pour les aider à « viser correctement et en toute sécurité l’appareil ».
« Ce type de surveillance nuira sans aucun doute aux communautés de couleur et à d’autres qui sont trop surveillées, et probablement bien au-delà », ont écrit les membres démissionnaires du conseil d’administration. « Le drone équipé de Taser n’a également aucune chance réaliste de résoudre le problème de tir de masse qu’Axon le prescrit maintenant, ne faisant que détourner la société des vraies solutions à un problème tragique. Nous ressentons tous le besoin désespéré de faire quelque chose pour lutter contre notre épidémie de masse. Mais la proposition d’Axon d’élever une réponse technique et policière lorsqu’il existe des alternatives beaucoup moins nocives, n’est pas la solution. »
Ces membres du conseil d’administration ont déclaré qu’avant qu’Axon ne fasse son annonce, ils l’avaient exhorté à « retirer » les plans. « Mais l’entreprise a avancé d’une manière qui a frappé beaucoup d’entre nous en échangeant sur la tragédie des fusillades d’Uvalde et de Buffalo », ont-ils écrit. « De manière significative pour nous, cela a contourné l’engagement d’Axon de consulter le propre comité d’éthique de l’IA de l’entreprise. »
Smith a déclaré que le but de l’annonce était de lancer une conversation sur l’utilisation de drones équipés de Tasers comme solution possible. « Je reconnais que notre passion pour trouver de nouvelles solutions pour arrêter les fusillades de masse nous a amenés à agir rapidement », a déclaré Smith dans un communiqué. « Cependant, à la lumière des commentaires, nous suspendons les travaux sur ce projet et nous nous recentrons pour nous engager davantage avec les principales parties prenantes afin d’explorer pleinement la meilleure voie à suivre. »
Le comité d’éthique de l’IA a déjà réussi à convaincre Axon de changer de cap. En 2019, la société a déclaré qu’elle n’utiliserait pas la reconnaissance faciale dans ses caméras de police après que le conseil d’administration ait exprimé sa préoccupation concernant le plan.
Tous les produits recommandés par Engadget sont sélectionnés par notre équipe éditoriale, indépendante de notre maison mère. Certaines de nos histoires incluent des liens d’affiliation. Si vous achetez quelque chose via l’un de ces liens, nous pouvons gagner une commission d’affiliation.