Je vois mon image dans le miroir sur le chemin pour prendre un muffin et je me souviens que les gens se réfèrent parfois au (mon) visage de « KC Cole » ; cela les fait rire pour une raison quelconque. Je me demande dans quelle catégorie il rentre. Est-ce que je veux même savoir ?
Vient maintenant le partie vraiment effrayante. Lorsque j’ai commencé à écrire sur le « futur de la réalité », il m’est venu à l’esprit que les mondes représentés dans Tla matrice étaient déjà trop réels. Je n’ai pas osé dire ça, parce que je pensais que les gens me considéreraient comme votre vieille personne typique avec un défi technologique.
Mais il s’est avéré que j’avais beaucoup de compagnie estimée (et plus jeune). À peine luddites, ceux qui nous poussent à prendre les pilules rouges ces jours-ci sont pour la plupart des visionnaires comme Lanier. Il y a dix ans, il a écrit le livre classique Vous n’êtes pas un gadget; de plus en plus, soutient-il, vous l’êtes. Pour être précis, vous (nous) devenons des « périphériques informatiques attachés aux grands nuages informatiques ».
Kate Crawford de Microsoft, en Atlas de l’IA, décrit les dangers d’entasser nos réalités personnelles et sociales complexes et fluides dans des « représentations du monde faites uniquement pour les machines ». L’IA force la « systématisation du non-systématisé », réduit la profondeur, tue les appoggiatures, aplatit l’expérience et nous avec elle.
Lanier et Cie pensaient que le monde serait un meilleur endroit si tout le monde partageait librement l’information ; au lieu de cela, il le décrit comme un endroit où nous sommes surveillés tout le temps, remettant des données que nous le voulions ou non. (Je me demande si le conducteur d’Amazon à l’extérieur est surveillé par une version d’un Smith, pour mieux le garder en ligne. Nous connaissons tous la réponse.)
Les énormes magasins de données extraits d’Internet – nos visages, nos habitudes, notre santé, nos finances, nos enfants, nos amants, nos acteurs préférés, nos vacances, nos conversations avec votre Roomba – vont vers des méga-ordinateurs qui modifient ce que vous voyez afin de vous garder accroché, de vous vendre des trucs. C’est une rue à sens unique. Nous sommes transparents pour les mégaserveurs, mais ils sont opaques pour nous. Des entreprises éloignées utilisent les données pour changer nos vies « de manière insondable », écrit Lanier. « Vous ne savez jamais vraiment ce qui aurait pu être si l’algorithme cloud de quelqu’un d’autre était parvenu à une conclusion différente concernant votre potentiel en tant que preneur de prêt, rendez-vous ou employé. »
La version cinématographique de Matrix tire son carburant de batteries humaines. Les réseaux géants de machines que nous appelons ironiquement « nuages » se nourrissent également d’humains : ceux qui extraient des minéraux rares, assemblent des appareils, conduisent des camions, chargent des colis, traduisent du texte, étiquettent et évaluent des objets et des visages (souvent de manière incorrecte ; surtout si vous re femme, peau foncée ou autre).
Il faut plusieurs milliers de personnes pour maintenir l’illusion d’une automatisation fluide et légère. Pour ces tâches, les humains sont moins chers que les robots.
Tenter d’appréhender cette réalité souterraine est aussi choquant que le premier regard de Neo sur la vaste gamme de piles à combustible alimentées par des bébés. Personne ne veut entendre parler des coûts : l’énorme empreinte carbone de l’informatique, l’épuisement de l’approvisionnement en eau et en électricité de la communauté, la dépendance à l’égard des infrastructures financées par les contribuables, des égouts, des conduites de gaz, de la fibre optique, etc. Il y a une raison pour laquelle ces mégaserveurs sont cachés dans des lieux distants.