MLes systèmes d’apprentissage automatique surpassent depuis des années leurs homologues humains dans tous les domaines, de Go à Jeopardy ! à la découverte de médicaments et à la détection du cancer. Avec toutes les avancées réalisées dans le domaine, il n’est pas rare que les gens se méfient des robots qui les remplaceront dans la main-d’œuvre de demain. Ces préoccupations sont déplacées, affirme Gerd Gigerenzer dans son nouveau livre Comment rester intelligent dans un monde intelligent, ne serait-ce que pour une autre raison que l’incertitude elle-même. Les IA sont des machines aux capacités phénoménales, mais seulement si elles disposent de suffisamment de données pour agir. Introduisez la précarité extrêmement instable de la nature humaine dans leurs algorithmes et regardez leur précision prédictive s’effondrer – sinon, nous n’aurions jamais besoin de balayer vers la gauche. Dans l’extrait ci-dessous, Gigerenzer discute des coûts de confidentialité cachés du partage de la télématique de votre véhicule avec la compagnie d’assurance.
Presse du MIT
Extrait de Comment rester intelligent dans un monde intelligent par Gerd Gigerenzer. Publié par MIT Press. Copyright © 2021 par Gerd Gigerenzer. Tous les droits sont réservés.
Quand votre voiture vous signale à la police
Si les voitures autonomes ne se produisent pas, une alternative semble être de former les humains à utiliser l’IA comme système de support, mais à rester vigilant et à garder le contrôle en cas d’échec – ce que l’on appelle l’intelligence augmentée. Cela équivaut à une automatisation partielle, c’est-à-dire à des versions sophistiquées du niveau 2 ou 3. Pourtant, l’intelligence augmentée implique plus que le simple ajout de fonctionnalités utiles à votre voiture et pourrait bien nous conduire vers un avenir différent, où l’IA est utilisée à la fois pour soutenir et surveiller nous. Cet avenir possible dépend davantage des compagnies d’assurance et de la police que des constructeurs automobiles. Ses graines sont dans la télématique.
Les jeunes conducteurs sont téméraires, trop confiants et constituent un risque d’assurance, selon le stéréotype. Certains le sont en effet, mais beaucoup ne le sont pas. Néanmoins, les assureurs les traitent souvent comme un seul groupe et facturent une prime élevée. L’assurance télématique peut changer cela en offrant de meilleurs tarifs pour les conducteurs prudents. L’idée est de calculer la prime à partir du comportement de conduite réel d’une personne plutôt qu’à partir de celui du conducteur moyen. Pour cela, une boîte noire qui se connecte à l’assureur est installée dans la voiture (l’utilisation d’un smartphone est possible et moins chère mais moins fiable). La boîte noire enregistre le comportement du conducteur et calcule un score de sécurité. La figure 4.6 montre le système de notation de l’un des premiers assureurs télématiques. Il observe quatre caractéristiques et leur attribue des poids différents.
Presse du MIT
Les accélérations rapides ou les freinages brusques se voient attribuer le poids le plus important, suivis de la conduite au-delà de la limite de vitesse. Chaque pilote démarre avec un budget mensuel de 100 points pour chacune des quatre fonctionnalités. Un « événement » entraîne la soustraction de points, par exemple 20 points pour la première accélération rapide ou pour un dépassement de la limite de vitesse. À la fin du mois, les points restants sont pondérés comme indiqué et additionnés pour obtenir un score de sécurité total. Bien que la télématique soit souvent appelée assurance boîte noire, l’algorithme n’est pas du tout une boîte noire comme la plupart des algorithmes d’amour. Elle est expliquée en détail sur le site internet de l’assureur, et chacun peut comprendre et vérifier le score qui en résulte.
Les tarifs personnalisés sont annoncés comme favorisant l’équité. Pour ce faire, ils tiennent compte du style de conduite individuel. Mais ils créent aussi de nouvelles sources de discrimination lorsque la conduite de nuit et en ville est sanctionnée. Le personnel hospitalier, par exemple, n’a peut-être guère le choix d’éviter de travailler la nuit et dans les villes. Ainsi, certaines fonctionnalités sont sous le contrôle du conducteur, mais pas toutes. Fait intéressant, une caractéristique contrôlée par le conducteur est absente de pratiquement tous les tarifs personnalisés : l’envoi de SMS au volant.
Et la boîte noire qui permet l’équité permet aussi la surveillance. Envisagez un avenir possible. Pourquoi la boîte noire devrait envoyer un relevé d’excès de vitesse uniquement à l’assureur ? Une copie à la police serait extrêmement pratique et leur épargnerait beaucoup d’efforts. Cela rendrait tous les radars obsolètes. En cas d’excès de vitesse, la voiture imprime le ticket à temps ou, plus pratique, déduit automatiquement l’amende de votre compte en ligne. Votre relation avec votre voiture bien-aimée peut changer. Il y a une pente glissante entre l’équité et la surveillance totale.
Seriez-vous favorable à une nouvelle génération de voitures qui envoient les infractions routières directement à la police ? Dans une enquête que j’ai menée, un tiers des adultes ont dit oui, davantage chez les plus de soixante ans et moins chez les moins de trente ans. La technologie pour cet avenir existe déjà, car la plupart des voitures neuves sont équipées d’une boîte noire. Les données qu’il collecte n’appartiennent pas au propriétaire de la voiture et peuvent être utilisées en justice contre le conducteur. En Géorgie, la police a obtenu des données de boîte noire sans mandat après un accident mortel, et le conducteur a été reconnu coupable de conduite imprudente et d’excès de vitesse.
Bien que les motifs de surveillance varient, la technologie numérique les soutient tous. Il n’est même pas nécessaire de souscrire une assurance télématique. Les voitures modernes ont des connexions Internet intégrées et – sans que cela soit rendu transparent dans le manuel du propriétaire – la plupart envoient à leur constructeur automobile toutes les données qu’ils peuvent collecter toutes les deux minutes, y compris où se trouve actuellement le conducteur, si un freinage brusque s’est produit, à quelle fréquence la position du siège du conducteur a été modifiée, quelles stations-service ou stations de recharge de batterie ont été visitées et combien de CD et de DVD ont été insérés. De plus, dès que vous branchez votre smartphone, la voiture peut copier vos informations personnelles, y compris les adresses de contacts, les e-mails, les SMS et même les photos. Les constructeurs automobiles sont remarquablement silencieux sur cette activité, et lorsqu’on leur demande avec qui ils partagent ces données, ils ne répondent généralement pas. Ces informations permettent de découvrir de nombreux autres éléments d’intérêt, tels que la fréquence à laquelle les conducteurs ont visité McDonald’s, leur mode de vie sain et les personnes qu’ils visitent occasionnellement la nuit. Les voitures connectées peuvent soutenir la justice et améliorer la sécurité mais aussi vous espionner. L’assurance télématique incarne le double visage du numérique : la surveillance en échange du confort.
Tous les produits recommandés par Engadget sont sélectionnés par notre équipe éditoriale, indépendante de notre maison mère. Certaines de nos histoires incluent des liens d’affiliation. Si vous achetez quelque chose via l’un de ces liens, nous pouvons gagner une commission d’affiliation.