La division Cruise des véhicules autonomes de GM traverse déjà une période difficile, le Département des véhicules automobiles de Californie (DMV) ayant récemment suspendu ses permis sans conducteur pour des raisons de sécurité. Aujourd’hui, plusieurs nouveaux rapports ont mis en évidence d’autres problèmes avec l’entreprise, notamment des problèmes avec ses véhicules autonomes (AV) reconnaissant les enfants et la fréquence à laquelle les opérateurs humains doivent prendre le contrôle à distance. L’entreprise vient également d’annoncer qu’elle suspendait temporairement la production de son transport Origin entièrement autonome.
Le problème le plus préoccupant est que Cruise aurait gardé ses véhicules dans les rues même s’il savait qu’ils avaient du mal à reconnaître les enfants, L’interception signalé. Selon des documents internes d’évaluation de la sécurité, non signalés auparavant, les véhicules autonomes de Cruises pourraient avoir été incapables de détecter efficacement les enfants afin de prendre des précautions supplémentaires.
« Les véhicules utilitaires autonomes de croisière ne peuvent pas faire preuve de prudence supplémentaire en présence d’enfants », indique le document. Pour cette raison, l’entreprise craignait que son robot-taxi ne roule trop vite à proximité d’enfants qui pourraient se déplacer de manière inattendue dans la rue. Cruise manque également de données sur des situations spécifiques aux enfants, comme les enfants se séparant des adultes, tombant, faisant du vélo ou portant des costumes.
Dans une simulation, l’entreprise n’a pas pu exclure un scénario dans lequel un véhicule heurterait un enfant. Lors d’un autre essai routier spécifique, un véhicule a détecté un mannequin de la taille d’un enfant mais l’a quand même heurté avec un miroir à 28 MPH. L’entreprise a imputé les problèmes à un logiciel et à des tests inadéquats. En particulier, il lui manque un logiciel d’IA capable de détecter automatiquement les objets en forme d’enfant autour de la voiture et de manœuvrer en conséquence.
Dans une déclaration à L’interception, Cruise a admis que ses véhicules perdaient parfois temporairement la trace des enfants au bord de la route lors des tests de simulation. Il a ajouté que le problème avait été résolu et observé uniquement lors des tests et non sur la voie publique, sans toutefois préciser quelles mesures spécifiques avaient été prises pour résoudre le problème. Un porte-parole a également déclaré que le système n’avait pas échoué à détecter les enfants, mais avait échoué à les classer comme tels.
Il a ajouté que les risques d’accident impliquant des enfants étaient relativement faibles. « Nous avons déterminé, à partir des performances observées sur route, que le risque de collision potentielle avec un enfant pourrait survenir une fois tous les 300 millions de kilomètres en conduite en flotte, ce que nous avons amélioré depuis. Il n’y a eu aucune collision sur route avec des enfants. »
Le rapport note également que les véhicules Cruise AV ont du mal à détecter les grands trous sur la route, tels que les fosses de chantier avec des équipes à l’intérieur, ce que l’entreprise elle-même a qualifié de « risque majeur ». Les propres documents de GM indiquaient que même avec sa petite flotte de véhicules utilitaires, un véhicule était susceptible de se retrouver dans un tel trou au moins une fois par an – et dans une fosse avec des personnes à l’intérieur une fois tous les quatre ans.
Ce scénario a failli se produire, selon la vidéo revue par L’interception. Les caméras embarquées montrent un AV roulant jusqu’au bord d’une fosse, à quelques centimètres des travailleurs, malgré la présence de cônes de construction. Il ne s’est arrêté que parce que quelqu’un a brandi un panneau « lent » devant le pare-brise.
« L’amélioration de la capacité de notre véhicule audiovisuel à détecter les dangers potentiels autour des zones de construction a été un domaine d’intérêt et, au cours des dernières années, nous avons mené des tests et des simulations approfondis sous supervision humaine, ce qui a abouti à des améliorations continues », a déclaré la société dans un communiqué. « Celles-ci incluent une détection améliorée des cônes, l’évitement complet des zones de construction avec des opérations de creusement ou d’autres opérations complexes, et l’activation immédiate du support/supervision de l’assistance à distance de l’AV par des observateurs humains. »
Tout cela soulève la question de savoir si Cruise devrait conduire ses véhicules sur la voie publique. « Si vous ne pouvez pas voir d’enfants, il est très difficile pour vous d’accepter que cela ne représente pas un risque élevé, même si vous pensez que cela se produira rarement », a déclaré Phil Koopman, professeur d’ingénierie à Carnegie Mellon. L’interception.
Le problème de la détection des enfants n’est pas le seul exposé récent sur Cruise, car il s’avère que les robots-taxis ne sont pas du tout vraiment autonomes. En fait, ils ont besoin d’une assistance humaine tous les quatre à cinq milles, selon un rapport publié dans Le New York Times confirmé en grande partie par le PDG de Cruise, Kyle Vogt, dans Actualités des pirates.
« Les véhicules utilitaires autonomes de croisière sont assistés à distance (RA) 2 à 4 % du temps en moyenne, dans des environnements urbains complexes. » a écrit Vogt. Cela équivaut à quelqu’un intervenant tous les quatre à cinq miles, ce qui peut être plusieurs fois sur de nombreux voyages. Il y a généralement un assistant à distance « pour 15 à 20 AV sans pilote », a déclaré Cruise plus tard.
Dans une déclaration à CNBCla société a fourni des détails supplémentaires : « Souvent, l’AV lance de manière proactive ces [remote assistance actions] avant d’être certain, il aura besoin d’aide, par exemple lorsque le chemin prévu du véhicule utilitaire est obstrué (par exemple, des blocages de construction ou des détours) ou s’il a besoin d’aide pour identifier un objet », a écrit un porte-parole. « L’assistance à distance est en cours dans environ 2 à 4 pour cent des cas. le temps pendant lequel l’AV est sur la route, ce qui est minime, et dans ces cas-là, le conseiller RA fournit des informations d’orientation à l’AV, sans le contrôler à distance.
Enfin, il semble que Cruise ait arrêté la production de son véhicule autonome Origin après que le DMV californien ait retiré sa licence, Forbes signalé. Lors d’une réunion à main levée avec les employés, Vogt, faisant référence au retrait de la licence DMV, a déclaré que « parce que beaucoup de choses sont en évolution, nous avons pris la décision avec GM de suspendre la production de l’Origin », selon l’audio du réunion. Un porte-parole de GM a confirmé plus tard à Engadget que « nous terminons la production d’un petit nombre de véhicules pré-commerciaux et que nous prévoyons ensuite de suspendre temporairement la production ».
Cruise exploite toujours ses AV en Californie, mais doit désormais avoir un chauffeur de secours humain au volant. Pendant ce temps, la Californie affirme avoir donné à Cruise la voie du retour au fonctionnement sans conducteur. « Le DMV a fourni à Cruise les étapes nécessaires pour demander le rétablissement de ses permis suspendus, que le DMV n’approuvera pas tant que l’entreprise n’aura pas rempli les exigences à la satisfaction du département. « , a-t-il déclaré dans un communiqué.
Mise à jour, 7 novembre 2023, 12 h 44 HE : Une déclaration de GM a été ajoutée confirmant la pause.