Les élites de la Silicon Valley portant la Patagonie ne sont pas les seules à s’intéresser aux véhicules autonomes.
Le département américain de la Défense, autrefois pionnier incubateur pour le développement AV précoce, interagit maintenant avec les meilleures startups AV pour imaginer la prochaine ère de véhicules militaires potentiellement autonomes. Bien que les responsables de la Défense aient signalé à Gizmodo l’optimisme du département sur la technologie émergente, ils sont simultanément préoccupés par les risques potentiels de piratage et de cybersécurité.
Gizmodo a rejoint la sous-secrétaire à la Défense Kathleen Hicks et un groupe de fonctionnaires alors qu’ils observaient une présentation de véhicule autonome cette semaine au Laboratoire national des accélérateurs SLAC à Menlo Park en Californie. Interrogé sur l’état de l’industrie audiovisuelle immédiatement après l’événement, l’un des assistants spéciaux de Hicks a parlé positivement, mais a déclaré qu’il y avait « encore quelques problèmes à résoudre ». Au premier rang de celles-ci figuraient les inquiétudes concernant le piratage potentiel et la sécurité, a déclaré le responsable.
Une note rapide: Ce constructeur automobile autonome particulier, qui est associé à l’une des plus grandes entreprises technologiques du pays et est largement connu pour ses tests sur les terrains du SLAC, a demandé à Gizmodo de ne pas mentionner son nom dans cette histoire.
DSD Hicks, qui s’est entretenu avec le constructeur automobile anonyme de la cybersécurité AV lors de la démonstration, a également souligné les problèmes de sécurité potentiels dans une interview avec Gizmodo plus tard dans la journée.
« Je pense que cela vous montre juste combien de temps un chemin ce [autonomous vehicles] est, même dans le secteur commercial, d’obtenir toutes les informations formées, les données dont vous avez besoin, l’environnement de sécurité, puis la cybersécurité.
Ces problèmes de sécurité ne sont pas nécessairement injustifiés. Les véhicules autonomes, comme tout autre élément de technologie informatisée, sont par définition sensibles à un certain degré d’agresseurs potentiels. Ces attaques peuvent potentiellement se produire en incitant les caméras et les capteurs d’un véhicule à virer dans la mauvaise voie (comme c’était le cas démontré par les chercheurs de Keen Security Labs en 2019) ou en ciblant les vulnérabilités logicielles comme on le ferait sur n’importe quel autre ordinateur. Le mois dernier, un adolescent chercheur en sécurité du nom de David Colombo a pu à distance pirater 25 véhicules Tesla répartis dans 13 pays en une heure environ, en raison d’une faille de sécurité dans un outil de journalisation open source. Dans ce cas, Colombo a pu démarrer la voiture à distance, faire exploser la chaîne stéréo et déverrouiller les portes, le tout potentiellement à l’insu du propriétaire du véhicule. Dans d’autres cas, des rapports ont montré la capacité de Obliger une voiture bourdonnant le long d’une autoroute à 70 mph pour s’arrêter brusquement en lançant un exploit.
Il s’avère que l’armée n’est pas la seule à avoir des problèmes de sécurité AV. Seulement 34% des adultes américains interrogé dans un nouveau sondage Morning Consult, ils ont déclaré qu’ils faisaient confiance à la technologie des véhicules sans conducteur, avec seulement 9% allant encore plus loin sur un membre et disant qu’ils faisaient « beaucoup confiance à la technologie ». Un tiers a simplement dit qu’il ne lui faisait pas du tout confiance.
« Les responsables du DoD devraient se préoccuper du piratage des AV », Jane A. LeClair a déclaré dans une interview avec Gizmodo. LeClair, professeur et chef de l’exploitation au Washington Center for Cybersecurity Research & Development, nous a également dit que les chercheurs qui ont déjà démontré leur capacité à pirater les AV étaient probablement moins sophistiqués qu’un adversaire militaire américain potentiel cherchant à faire des dégâts. « Il reste beaucoup à faire pour assurer la cybersécurité des systèmes audiovisuels », a déclaré LeClair, « et cela devrait être intégré au système, et non ajouté après coup. »
Le développement audiovisuel a pris « plus de temps que je ne l’aurais jamais imaginé »
En parlant avec Gizmodo, Hicks a déclaré qu’elle pensait que des cas d’utilisation autonomes plus avancés pour le DoD n’étaient en aucun cas hors de portée, mais qu’elle a rapidement reconnu les limites actuelles de la technologie.
« C’est plus insaisissable que je ne le pense », a déclaré Hicks. À court terme, Hicks a souligné ce qu’elle considérait comme l’importance des tests sécurisés de systèmes autonomes dans des environnements spécifiques.
« Les cas d’utilisation les plus simples sont les cas qui se trouvent dans les environnements les moins complexes et où nous avons beaucoup de données pour créer un ensemble de données de confiance et un environnement dans lequel les exploiter », a déclaré Hicks. Elle a souligné ce qu’elle considérait comme l’importance de former ces systèmes autonomes encore en herbe dans des «environnements relativement sûrs», où les données peuvent être collectées en toute sécurité et les déductions faites. Chaque fois que le DoD accélère ses tests de véhicules autonomes, Hicks a déclaré que le Département le ferait tout en adhérant aux principes d’un système « humain dans la boucle ».
Alors que le Pentagone s’en tient à son principe de l’humain dans la boucle, certains généraux et des voix influentes sur la politique américaine en matière d’IA, comme l’ancien PDG de Google, Eric Schmidt, ont intégré ce principe question. Schmidt, qui était chargé par l’administration Trump pour co-diriger la Commission de sécurité nationale sur l’IA, récemment a écrit un livre avec Henry Kissinger plaidant pour une approche moins restrictive et plus belliciste de l’IA américaine.
« Je peux comprendre l’inquiétude des responsables du DoD à se pencher vers des zones de test fermées », a déclaré LeClair. « On ne peut pas avoir un tank Abrams qui écrase une maman footballeuse dans sa fourgonnette, n’est-ce pas ! » Blague à part, LeClair a reconnu que les tests dans le monde réel de ces systèmes d’IA sont inévitables à un moment donné, mais a déclaré que « cela pourrait être un peu plus tard ».
Commentant la maturité de l’industrie audiovisuelle en général, Hicks a déclaré que les progrès ont pris « plus de temps que je ne l’aurais jamais imaginé ».
« Essayer de comprendre pourquoi [AV development] continue de pousser [back]je pense que c’est une question clé que je pense que de nombreux hauts dirigeants du département ont.
Un responsable de la Défense a déclaré à Gizmodo que le Département s’intéressait également aux capteurs et à la collecte de données liées aux véhicules audiovisuels. Le responsable a déclaré que le DoD surveillait les progrès autonomes d’entreprises comme John Deere, qui sont développement des systèmes autonomes pour davantage d’applications hors route. John Deere, connu pour ses chevaux de trait agricoles emblématiques à cadre vert et à roues géantes jaunes, a dévoilé plus tôt cette année un tracteur entièrement autonome qui rassemble un système GPS avec 12 caméras qui permettent une détection d’obstacles à 360 degrés.
En théorie, selon l’entreprise, les agriculteurs du futur pourraient simplement programmer leur tracteur et s’éloigner pendant qu’il laboure, plante et pulvérise ses champs de manière autonome. Le DoD ne se prépare pas exactement à raccrocher ses canons de chars pour les choix des agriculteurs, mais il voit une opportunité d’apprendre de l’industrie privée pour améliorer l’autonomie dans des scénarios difficiles et hors route auxquels les véhicules militaires sont plus susceptibles de faire face. En d’autres termes, un camion militaire autonome peut en fait avoir plus en commun avec un tracteur industriel qu’avec une Tesla roulant sur une autoroute de San Francisco.
L’industrie de la défense entretient des liens étroits avec la technologie autonome
L’industrie audiovisuelle d’aujourd’hui n’existerait probablement pas sans le DoD. Comme le l’Internet et GPS avant cela, la technologie sans conducteur a reçu un énorme coup de pouce précoce de la DARPA, le bras de recherche gonzo du Pentagone. Il y a près de vingt ans, en 2004, l’agence organisait son premier «Grand défi” qui a décerné des millions en prix à des concurrents décousus capables de concevoir des véhicules capables de naviguer de manière autonome sur de longues distances. Aucun des véhicules des challengers n’a pu terminer le parcours de 142 milles de la DARPA. Néanmoins, l’agence a suivi ce défi avec une paire de défis de suivi, un en 2005 et un autre en 2007. Tout cela, selon la DARPA, visait à stimuler l’innovation dans ce qui était alors une grande inconnue.
Les choses ont bien changé depuis. La technologie AV s’est accélérée bien au-delà des confins du désert éloigné et sous les projecteurs de la Silicon Valley. Appartenant à Alphabet WaymoGeneral Motors soutenu Croisièreet filiale d’Intel Mobileye ont tous intensifié les tests autonomes au cours de la dernière année dans l’espoir de fournir de vrais produits de consommation dans un proche avenir. Et puis il y a Tesla, qui malgré une offre comparable pire capacités sans conducteur que ces autres concurrents, a compliqué le paysage en permettant à ses Pilote automatique Des bêta-testeurs pour tester ses capacités sur la voie publique, Les préoccupations de sécurité être damné.
Malgré les années (et je veux dire années) des promesses non tenues des charlatans AV, LeClair dit que l’industrie automobile en 2022 a vu « des progrès significatifs dans les véhicules électriques et autonomes ». Idem pour l’IA en gros. Selon le rapport annuel récemment publié par Stanford Rapport d’indice d’IA, les investissements privés mondiaux en 2021 ont totalisé 93,5 milliards de dollars. C’est plus du double de l’investissement en 2020.
Celle des militaires été occupé, aussi. Ne se contentant pas d’une simple autonomie aux quatre roues, la DARPA a récemment terminé un vol d’essai autonome de 30 minutes d’un hélicoptère UH-60A Black Hawk sans humain à bord. Ce vol autonome a été rendu possible grâce à un système expérimental ALIAS (Aircrew Labor In-Cockpit Automation System). Les F-16 contrôlés par l’IA ont entre-temps déjà battu pilotes humains dans des combats aériens simulés. La DARPA espère même présenter quatre Jets L-39 alimentés par l’IA engagés dans un combat aérien au-dessus du lac Ontario d’ici 2024.
Pourtant, tous ces tests ne sont que cela, des tests. Les preuves de concepts limitées sont une chose, mais les prendre et les appliquer à une véritable guerre de tir en est une autre. « Les appareils autonomes sont très prometteurs dans les airs et en mer », a déclaré LeClair, « Mais la complexité d’un champ de bataille terrestre est un environnement totalement différent pour un AV. Si le système d’une Tesla a un hoquet, les problèmes sont limité mais sur le champ de bataille une erreur peut être dévastatrice.
Tout cela est soit incroyablement cool, soit effrayant, selon votre niveau de confort avec les futurs champs de bataille dotés d’un assortiment d’armures d’IA. Dans le meilleur des cas, tous ces systèmes autonomes pourraient signifier moins de soldats en danger. Malgré ses inquiétudes, LeClair a déclaré que le potentiel signifie que l’autonomie peut en valoir la peine.
« Je suis tout à fait d’accord pour sortir l’homme de la machine et ne pas mettre nos troupes en danger », a déclaré LeClair. « Peut-être que le DoD devrait se concentrer sur le transport de fournitures et d’équipements via AV… dans un rôle de soutien qui n’est pas encore sur le champ de bataille. »