La raison déroutante pour laquelle l’IA ne peut jamais rivaliser avec la conscience humaine

Construire une intelligence artificielle humanoïde commence souvent par déconstruire les humains. Prenez les empreintes digitales : lorsque vous tenez des plats savonneux, nous ajustons intuitivement notre prise en fonction de notre structure d’empreintes digitales. Cela ne nous vient tout simplement pas à l’esprit, car nous l’attribuons à un réflexe – et pendant très longtemps, les scientifiques aussi. Personne n’avait d’équations pour comprendre comment cela fonctionnait parce que, eh bien, cela n’avait pas beaucoup d’importance. Mais l’essor de la robotique a compliqué les choses.

Pour qu’un robot fasse cela, nous devons comprendre précisément ce qui se passe, et même transformer ces connaissances en code inscriptible. Désormais, le décodage des empreintes digitales est important, et les chercheurs tentent enfin de trouver une nouvelle loi de la physique pour l’expliquer.

Dans un sens, la connaissance physique et la capacité de codage des traits humains sont des conditions préalables à la programmation robotique… ce qui introduit une question importante pour l’avenir de l’IA réaliste. Y a-t-il des aspects de la conscience humaine qui ne répondront jamais à ces critères ? Eh bien, selon certains philosophes, il peut y en avoir.

Et après avoir lu deux expériences de pensée absolument époustouflantes, vous pourriez être d’accord. Ou peut-être pas.

Ce que Mary ne savait pas

Une femme nommée Mary vit dans une petite maison. Elle n’est jamais partie. Quand elle regarde autour de sa demeure et par ses fenêtres, tout apparaît noir, blanc ou une variété de gris. Mary ne peut pas voir la couleur, mais elle se demande souvent : « Que veulent dire ces gens sur ma télé en noir et blanc quand ils parlent de roses rouges ?

Supposons que la chambre de Mary abrite une bibliothèque magique. Cet endroit hypothétique contient des livres avec chaque bribe d’information sur la couleur rouge. Et je veux dire tout. Pour étancher sa soif de savoir, Mary lit tout.

Elle apprend les longueurs d’onde électromagnétiques rouges, comment le cramoisi fait sentir les gens, les descriptions les plus claires de l’écarlate, les analogies avec les cerises et tout ce à quoi vous pouvez penser. Et plus encore. Personne n’en sait plus sur le rouge que Mary. Puis, elle termine sa lecture… et décide de sortir de chez elle.

Waouh.

À la surprise de Mary, elle voit la couleur. Elle n’a jamais été daltonienne. Sa maison, ses meubles et ses appareils électroniques étaient simplement construits en noir et blanc, et ses fenêtres filtraient le monde extérieur en monochrome.

Puis quelque chose de grand se produit. Marie voit une pomme rouge, la couleur de son savoir-faire. Sa mâchoire tombe. Elle apprend quelque chose Nouveau sur le rouge. Mais… c’est bizarre. Pourquoi cette connaissance n’était-elle pas quelque part dans sa bibliothèque ? Il y avait tout ce qu’on pouvait apprendre sur la couleur rouge, n’est-ce pas ?

Cette histoire est une version de la célèbre expérience de pensée de 1986, « Ce que Mary ne savait pas », du philosophe Frank Jackson, et la connaissance intangible sur le rouge que Mary vient de rassembler s’appelle qualia.

Qu’est-ce qu’un qualia ?

En termes simples, qualia définit la connaissance qui ne peut être atteinte que par une expérience consciente.

C’est comme les informations subjectives que vous avez reçues la première fois que vous avez entendu votre chanson préférée. Vous avez peut-être ressenti des frissons dans le dos et dit à vos amis : « Vous devez l’écouter pour comprendre. » Faire exploser magiquement leur cerveau avec les profondeurs de la théorie musicale et de la science acoustique ne ferait probablement pas l’affaire. Jusqu’à ce qu’ils l’entendent, ils ne le feraient pas connaître la chanson comme vous le faites.

Qualia pourrait être la raison pour laquelle même les meilleurs neuroscientifiques, psychologues et poètes ne peuvent probablement pas expliquer suffisamment bien la douleur du chagrin pour que quelqu’un qui n’a jamais vécu de chagrin comprenne vraiment.

Et, revenons à Mary, toutes les informations physiques du monde sur le rouge n’étaient pas suffisantes pour lui apprendre ce que regarder la teinte serait vraiment être aimer. « Quand on la laisse sortir de la pièce en noir et blanc ou qu’on lui donne une télévision couleur, elle apprendra ce que c’est que de voir quelque chose de rouge, par exemple », écrit Jackson. « Ceci est décrit à juste titre comme un apprentissage – elle ne dira pas » ho, hum « . »

Bien que la théorie ait été brassée pendant des années, c’est toujours un argument assez populaire pour expliquer à quel point certaines connaissances sont indescriptibles par le langage et uniques à la conscience humaine. Cela signifie que si qualia est une force réelle, son fonctionnement interne serait incroyablement difficile à écrire, et donc à programmer. Cela pourrait bien être une barrière entre les humains et l’IA.

D’un autre côté, peut-être pas. Peut-être que nous pouvons le décoder d’une manière ou d’une autre, la façon dont nous apprenons lentement la dynamique de la prise d’empreintes digitales.

Peut-on?

Réponse courte : nous ne savons pas. Les experts ont argumenté dans les deux sens, et certains ont proposé de nouveaux angles. Mais la plupart sont coincés derrière des murs hypothétiques, et le fait est que qualia n’a aucune explication scientifique.

Construire un robot qualia

OK, d’après ce que je vous ai dit à propos de Mary, vous avez probablement pensé à quelques objections aux qualia. Vous ne seriez pas seul : les expériences de pensée sont souvent parsemées d’échappatoires, et la chambre de Mary ne fait pas exception.

Certains contre-arguments ont avancé que les ombres dans la pièce auraient pu transporter des pigments de couleur. D’autres disent que la « bibliothèque magique » aurait donné à Mary des connaissances d’une manière que nous ne pouvons pas concevoir. Sur ce dernier point, une réfutation fascinante – et étonnamment pertinente pour notre grande question sur l’IA – vient du philosophe Daniel Dennett.

En un mot, Dennett suggère que si Mary avait vraiment toutes les informations sur le rouge, ne serait-elle pas en quelque sorte omnisciente ? Elle ne connaîtrait pas simplement la couleur comme un humain standard. Théoriquement, elle aurait entendu parler des « qualia » rouges, si cela existe, dans le cadre de sa littérature rouge, n’est-ce pas ? Et à partir de cette ligne de pensée, nous pourrions extrapoler que qualia est en effet sur le point d’améliorer l’IA, mais nous n’avons tout simplement pas encore compris comment l’exploiter.

Eh bien, peut-être, mais cela ressemble à une impasse. Nous ne pouvons pas savoir avec certitude si Mary aurait de tels pouvoirs. Nous ne sommes pas omniscients, donc nous ne savons même pas à quoi ressembleraient ces pouvoirs. Ainsi, dit Dennett, oublions que Mary est humaine pour supprimer ces contraintes.

Entrez RoboMary.

« Penser en termes de robots est un exercice utile, car cela supprime l’excuse selon laquelle nous n’en savons pas encore assez sur les cerveaux pour dire exactement ce qui se passe qui pourrait être pertinent, permettant une sorte de romantisme laineux sur les pouvoirs mystérieux des cerveaux. pour obscurcir notre jugement », écrit Dennett.

Ce que sait RoboMary

Bienvenue à l’expérience de pensée numéro deux.

RoboMary est une itération d’une classe de robots appelée Mark 19, mais malheureusement, a été construit sans vision des couleurs et attend une mise à niveau. Jusque-là, les « yeux » ou caméras vidéo de RoboMary ne transmettent les informations qu’en noir et blanc.

« Les caméras en noir et blanc de RoboMary représentent bien l’isolement de Mary humaine, et nous pouvons la laisser errer à volonté dans les revues de psychophysique et de neurosciences en lisant avec ses yeux en noir et blanc », écrit Dennett.

Fondamentalement, elle parcourt sa propre version de la bibliothèque magique. Mais RoboMary va encore plus loin.

Elle apprend comment fonctionnent les entrées couleur Mark 19, puis, « grâce à ses vastes connaissances, elle écrit un code qui lui permet de coloriser l’entrée de ses caméras noir et blanc », écrit Dennett. Elle se modifie d’une manière humaine que Mary ne peut pas.

Ce nouveau paramètre lui permet de regarder une pomme, par exemple, avec sa vision en noir et blanc, puis de l’imaginer avec précision comme le code de couleur correct pour les robots Mark 19. RoboMary commence automatiquement à appliquer le paramètre à tout lorsqu’elle explore le monde. Mais c’est là qu’elle vraiment se démarque. Elle observe d’autres Mark 19 en état de marche, dissèque comment ils réagissent aux différentes couleurs et s’adapte en conséquence.

À ce stade, RoboMary sait quelle est chaque entrée de couleur et réagit exactement de la même manière que n’importe quel autre Mark 19.

Le grand jour arrive. Les capteurs de couleur de RoboMary sont activés.

« Quand elle fait enfin installer ses caméras couleur, désactive son logiciel de colorisation et ouvre les yeux, elle ne remarque… rien. En fait, elle doit vérifier pour s’assurer que les caméras couleur sont installées », écrit Dennett. « Elle savait déjà exactement ce que ce serait pour elle de voir les couleurs comme le font les autres Mark 19. »

J’ai des frissons en y pensant. En modifiant ses paramètres, RoboMary semble avoir simulé des qualia pour elle-même. Mais je ne peux pas non plus m’empêcher d’imaginer une situation beaucoup plus effrayante.

Et si RoboMary ouvrait les yeux… et que tout était différent ?

En tant qu’êtres humains, nous sommes limités

La saga Mary ne s’arrête pas là.

Malgré des tonnes d’autres modifications – dont certaines viennent de Jackson lui-même pour affiner l’argument original – l’ensemble du travail de Dennett est également incroyablement méticuleux.

Il aborde d’innombrables objections que vous pourriez ressentir en pensant à Mary et RoboMary, et plus tard dans un scénario complexe qui ne permet pas à RoboMary de modifier ses paramètres, pour voir si les qualia sont toujours préservées. Il y a même un suivi de l’article de Dennett intitulé « Ce que RoboDennett ne sait toujours pas ».

Mais comme pour toutes les expériences de pensée philosophique, le but de Mary et RoboMary n’est pas de vous dire une vérité. C’est pour vous forcer à réfléchir aux options et à trouver la vérité par vous-même.

Voici quelques-unes que j’ai trouvées : Peut-être que l’IA doit être construite comme RoboMary pour gagner des qualia. Ou peut-être que les robots peuvent être programmés comme conscients dans un sens plus large – c’est-à-dire si nous pouvons trouver un moyen d’expliquer mathématiquement la conscience dans son ensemble. Un robot « conscient » pourrait potentiellement explorer le monde comme nous le faisons, et donc acquérir des qualités comme nous.

Ou peut-être qualia n’est pas ce que nous pensons qu’il est. L’histoire de Jackson présente un argument convaincant selon lequel une fois que Mary regarde le rouge, quelque chose absolument arrive. On lui a donné le nom de « qualia » et on l’attribue à l’apprentissage de quelque chose de nouveau, mais que se passe-t-il si c’est une combinaison de beaucoup de choses avec beaucoup de noms et n’a rien à voir avec l’apprentissage ?

Ou… peut-être, juste peut-être, qualia est vraiment une barrière intouchable et non programmable entre la conscience humaine et l’IA.

Ces angles ne sont que la pointe de l’iceberg et pourraient (probablement) être réfutés au fil des années, si ce n’est déjà fait. Mais rappelez-vous la raison pour laquelle RoboMary a été invoqué en premier lieu : pour imaginer une entité qui dépasse les limites humaines.

C’est une expérience de pensée farfelue parce que, en tant qu’humains, nous sommes limités. Tout ce que nous pouvons faire, c’est spéculer.