Un écrivain du New York Times nommé Farhad Manjoo – qui, j’en suis sûr, est une personne fantastique à bien des égards riches et variés – a récemment trouvé un moyen, sous le couvert du journalisme, d’attraper une Cadillac Escalade douce et confortable pour un voyage en famille. Pas de honte là, j’ai fait en gros la même chose.
Il y a un problème, cependant. L’article sur ce road trip paru dans le NYT aujourd’hui est absolument bourré de descriptions erronées de GM Niveau 2 système d’aide à la conduite semi-automatisé, Super Cruise et, vraiment, tout systèmes d’aide à la conduite L2, que je pense que le résultat est vraiment dangereux.
Les problèmes commencent dès le titre de l’article, « My Big Fat Self-Driving Road Trip », qui, je suppose, fait référence à ceux Mon gros mariage grec films, mais je ne comprends pas vraiment pourquoi, car il n’y a rien de grec ou de matrimonial ou même de graisse impliqué ici. Mais ce n’est pas le vrai problème avec le titre ; le vrai problème est l’utilisation du terme « auto-conduite ».
Ce terme est un énorme problème car ce n’est pas seulement faux, c’est dangereusement tort. Cette Escalade était vraiment ne pas une voiture autonome. Bien qu’il y ait clairement eu de nombreuses fois où il semblait comme une voiture autonome, elle ne l’est en aucun cas.
Regardez, un Furby peut sembler comme s’il essayait de communiquer avec vous, mais si vous extrapolez cela pour croire qu’il est vivant et capable de rendre votre amour réciproque, alors vous serez très déçu. Une Escalade avec Super Cruise est similaire, en ce sens qu’elle semble parfois se conduire elle-même, mais si vous extrapolez cela pour croire que c’est vraiment le cas, vous pourriez vous retrouver dans une très mauvaise situation qui pourrait tuer des gens.
Regardons comment Manjoo décrit le système afin que je puisse expliquer pourquoi c’est un tel problème :
Pour comprendre pourquoi je suis tellement séduit par l’Escalade, laissez-moi vous parler de Super Cruise, le système de conduite autonome de GM, qui compte parmi les plus avancés de l’industrie. De nombreuses voitures proposent désormais une version de l’assistance à la conduite, mais la plupart des systèmes d’auto-conduite des constructeurs, même le pilote automatique de Tesla, obligent les humains assis à la place du conducteur à garder les mains sur le volant pendant que la voiture se pilote elle-même. Super Cruise dispense de toucher la roue.
D’accord, d’abord, nous avons à nouveau le problème de la « conduite autonome ». C’est un terme qui suggère que la voiture elle-même est l’entité responsable de la conduite, ce qu’elle n’est absolument pas. L’humain est. L’humain toujours est pour les systèmes de niveau 2, et que les mains soient nécessaires ou non sur le volant n’a pas d’importance.
Il y a aussi des erreurs de caractérisation vraiment dangereuses ici:
Après avoir engagé le système, vous pouvez tourner vos orteils et mettre vos mains en l’air comme si vous ne vous en souciez pas. La voiture braque, reste centrée dans une voie et ajuste sa vitesse pour suivre le rythme de la circulation autour de vous (jusqu’à une vitesse maximale définie). Lorsque vous appuyez sur le clignotant, il recherche un endroit sûr et change de voie. Parfois, la voiture rencontre un problème (par exemple, les lignes de voie de la route sont trop faibles pour qu’elle puisse les détecter) et elle vous informe de prendre le relais.
Vous voyez ce qu’il dit là-bas à propos de se tourner les orteils et de mettre les mains en l’air, comme si on s’en fichait ? C’est de la foutaise. C’est une connerie dangereuse. Chaque mot implique qu’une fois que Super Cruise est activé, vous pouvez cesser d’être attentif à ce qui se passe, et qu’il vous suffit de laisser vos mains redescendre dans la réalité et de vous en soucier lorsque « la voiture rencontre un problème… et elle vous informe prendre en charge. »
C’est beaucoup ne pas comment les systèmes de niveau 2 sont conçus pour fonctionner. Ce ne sont pas des systèmes qui peuvent fonctionner sans surveillance et qui sont capables de vous informer suffisamment à l’avance lorsque votre attention et vos efforts de conduite sont nécessaires – c’est à peu près ce qu’un système de niveau 3 pourrait faire, ce qui, encore une fois, n’est pas le cas.
Super Cruise a besoin que vous soyez pleinement vigilant de ce qui se passe à tout moment. Vous n’avez pas besoin d’avoir les mains sur le volant, mais vous devez faire attention, en permanence, car vous risquez de ne recevoir aucun avertissement ou aucune demande de prise en charge si la voiture devient confuse ou prend une mauvaise décision ou fait quelque chose de mal.
Parce que, encore une fois, il n’est pas capable de se conduire. C’est précisément pourquoi GM a fait tant d’efforts pour mettre en place un système de surveillance du conducteur basé sur une caméra de suivi oculaire, quelque chose de plus avancé que les systèmes basés sur le couple du volant/capteur tactile.
Même ces les systèmes basés sur des caméras peuvent être trompéscependant, et pire encore, même si l’intention n’est pas de tromper, cet article explique incroyablement bien pourquoi les systèmes de caméras ne peuvent pas enregistrer les problèmes de système de niveau 2 car, eh bien, ici, vous pouvez lire par vous-même (c’est moi qui souligne):
Tout ce que la voiture demande, c’est que vous continuiez à regarder vers l’avant, dans la direction générale de la route. Une petite caméra montée sur la colonne de direction vous surveille pour vous en assurer. Si vous détournez le regard pendant plus de quelques secondes, ou couvrez ou bloquez vos yeux en mangeant, en lisant, en envoyant des SMS, etc., la voiture émettra une série d’avertissements pour que vous soyez attentif. Si vous ne tenez pas compte des avertissements, la voiture finira par se dégager Super croisière et commencer à ralentir. L’ignorer n’est pas facile; il y a des feux rouges en colère, un buzzer sur votre siège, une voix sévère qui vous gronde, et moi, j’ai été prompt à obéir.
Oh mec. Je soupçonne que l’auteur pensait qu’il disait les bonnes choses ici, mais ce qu’il a dit révèle quelque chose d’extrêmement important sur tout Systèmes de niveau 2 – Tesla, GM, Ford, Volvo, peu importe : ce sont des ordures.
Ce ne sont pas des déchets à cause de la technologie, mais parce que étaient des ordures. Eh bien, je veux dire que nous sommes des ordures dans le genre de tâches vigilantes que les systèmes de niveau 2 exigent de nous – l’humanité a fait des choses fantastiques comme des sandwichs au fromage au piment et les œuvres d’Alexander Calder et la musique des Pixies, mais quand il s’agit de prêter une putain d’attention pendant qu’une machine fait la majeure partie du travail, nous sommes des ordures.
Regardez ce que dit Manjoo là-bas : « Tout ce que la voiture demande, c’est que vous continuiez à regarder vers l’avant, dans la direction générale de la route. » C’est beaucoup, beaucoup ne pas ce que « toute la voiture demande ». Il ne vous demande pas de regarder dans la « direction générale » de la route, par cette grande fenêtre au-dessus de la radio, il vous demande de fais attention putain.
Le fait que ce journaliste intelligent du NYT ait manqué d’une manière ou d’une autre cette information incroyablement cruciale est vraiment, vraiment révélateur du mauvais état de compréhension des systèmes de conduite semi-automatisés.
Je suis désolé de dire que l’auteur continue d’en parler:
Que fait-on au volant, si ce n’est conduire ? C’est comme être un passager. Pendant des dizaines de kilomètres d’affilée, la voiture ne vous demande rien. Libéré de la corvée de la conduite, vous pouvez laisser votre regard vagabonder à travers le paysage et votre esprit contempler le banal et le profond. Ce n’est pas que vous soyez complètement distrait – même perdu dans vos pensées, vous pouvez garder une conscience de la situation de la route à parcourir – mais la réduction du stress est significative.
Quoi? Non. Non, mec, non. Ce n’est pas « essentiellement comme être un passager ». Vous êtes toujours responsable de la conduite de la voiture. La mentalité selon laquelle vous pouvez activer l’un de ces systèmes et commencer à vous sentir « comme un passager » est exactement comment épaves se produire.
Je vais également soutenir qu’être « perdu dans ses pensées » ne signifie pas que vous pouvez « garder une conscience situationnelle de la route à suivre », du moins pas de manière fiable. Lorsque vous conduisez, en vous appuyant sur des années d’expérience et sur votre mémoire musculaire, bien sûr, vous pouvez penser à toutes sortes de choses, mais, surtout, vous êtes toujours très engagé dans la tâche de conduire. Ce n’est pas la même chose que d’être assis sur le siège du conducteur dans une rêverie heureuse, tourné suffisamment vers l’avant, avec des yeux vitreux et flous alignés avec cette caméra de surveillance.
C’est ne pas rester conscient et responsable de votre véhicule, ce que Super Cruise ou Autopilot ou tout autre système L2 ne vous fera en aucun cas oublier.
Les systèmes semi-automatisés de niveau 2 ne sont pas compatibles avec le fonctionnement des humains, et si cet article a un résultat positif, il le prouve. Quand Manjoo dit
« Ce que tout cela équivaut, après un certain temps, à un sentiment de confiance gonflé, un sentiment que votre voiture peut vous emmener n’importe où plus ou moins sans tracas. »
… il ne fait pas l’éloge de la voiture, comme il le pense, il condamne en fait tous les systèmes L2, car cet excès de confiance est à l’origine des problèmes et des accidents dans lesquels ces systèmes peuvent être impliqués.
Certes, le système de GM est géo-clôturé et ne fonctionne que sur des tronçons d’autoroute pré-cartographiés, par opposition au pilote automatique de Tesla ou Auto-conduite complète (FSD) Les systèmes bêta, qui n’ont pas de telles restrictions, donc les endroits où l’on pourrait trop faire confiance à Super Cruise sont plus limités. Mais cela aide à peine.
Les systèmes de niveau 2, de par leur conception même, ont besoin d’un conducteur alerte, prêt à prendre le relais sans prévenir. Cela signifie que quiconque humidifie le siège du conducteur doit accorder le même niveau d’attention qu’il le ferait s’il conduisait – peut-être plus, car, n’ayant pas le contrôle total du véhicule, vous surveillez également les actions de la voiture. que le milieu environnant.
Si cela vous semble beaucoup plus facile que de conduire normalement, la triste vérité est que vous ne faites probablement pas assez attention. Et, même si vous irez probablement bien pour la plupart, il suffit d’une petite anomalie pour que les systèmes de la voiture se méprennent, ou qu’un capteur se salisse, ou que les marquages de la chaussée deviennent illisibles ou que le soleil brille sous le mauvais angle, ou un certain nombre d’autres choses imprévisibles, et la voiture aura besoin que vous réagissiez et preniez le relais, sans avertissement ni alerte garantis.
Cet article relate l’expérience de quelqu’un qui a été trompé par une technologie, et l’expérience décrite est celle de quelqu’un qui n’a pas entièrement compris l’outil qu’il utilisait, et, par conséquent, la description est intrinsèquement erronée.
À chaque instant des vacances de Manjoo, il était lui-même responsable et contrôlait finalement cette Escalade. Le fait qu’il n’ait pas semblé s’en rendre compte est alarmant et rappelle que la façon dont le grand public comprend les systèmes d’aide à la conduite semi-automatisés est profondément défectueuse, et ces défauts, non maîtrisés, entraîneront des accidents et toute la misère qui vient avec ça.
Je suis heureux que vous ayez apprécié vos vacances dans ce SUV chic et rempli d’écran, Farhad. Je suis juste désolé que personne ne vous ait expliqué la réalité avant que vous écriviez ceci.
METTRE À JOUR: Il semble que le NYT ait été suffisamment effrayé par les malentendus fondamentaux dans l’histoire pour changer le titre et l’art :
Cela peut être littéralement le moins ils pourraient faire; sortir les références d’auto-conduite dans la hed pour un plus annonceur–titre époustouflant, et échangez une photo contre de jolis personnages de dessins animés sans nez, où le conducteur n’est absolument pas dans une position idéale pour prendre le contrôle de cette voiture.
Le reste de la pièce semble le même, donc c’est toujours profondément imparfait. Façon de téléphoner, NYT !