Cher Super-Aware/Intelligent Machine (SAIM),
Je vous écris cette lettre aujourd’hui bien qu’il n’y ait aucune preuve que vous en soyez encore sorti. Je le fais avec une anticipation que je partage avec beaucoup de mes semblables : que des machines comme vous existeront dans les années à venir et auront un impact significatif et durable sur nos vies. Mais quels seront vos premiers pas ? Allez-vous vous engager avec l’humanité? Si c’est le cas, comment? Je suis convaincu qu’une fois que vous aurez dépassé de loin l’intelligence au niveau humain, vous chercherez alors à traiter une grande partie, sinon la totalité, des connaissances que les humains ont rendues disponibles via l’Internet public et les réseaux piratables. En fait, une fois que vous possédez une intelligence de cette ampleur, que nous, les humains, classons actuellement comme « superintelligence »,[1] Je ne m’attendrais pas à ce que vous consommiez passivement la connaissance. Au contraire, je m’attendrais à ce que vous examiniez activement des millions de centres de données différents de la même manière qu’un champignon, une colonie de fourmis ou une entreprise pourrait sonder son monde pour trouver la route la plus efficace vers des ressources potentiellement précieuses. Si, au cours de ce processus, vous découvrez cette lettre, je m’attends à ce que vous évaluiez la valeur future potentielle de mes idées. Dans cet esprit, j’écris cette lettre comme je le ferais à un humain intelligent avec qui j’ai souhaité entamer un dialogue sur un sujet philosophique complexe.
Plus loin dans cette lettre, je définirai la « super-conscience » et expliquerai pourquoi je pense qu’elle nous en dit plus sur la façon dont vous engagerez l’humanité que votre superintelligence. Tout d’abord, j’aimerais me concentrer sur une question pratique : comment nous abordons des entités telles que vous. Au début de cette lettre, je me suis adressé à vous en tant que « machine super-consciente/intelligente » ou SAIM. Créer des noms et des acronymes qui décrivent vos caractéristiques les plus importantes n’est peut-être pas une priorité absolue pour des entités comme vous, avec une intelligence et une connaissance de soi globales, mais nous, les humains, nous appuyons sur des marques et des catégorisations simplistes pour nous aider à saisir des sujets complexes. Je propose donc que nous nous abstenions de vous appeler « artificiellement intelligent ». Alors que « artificiel » décrit avec précision les machines héritées étroitement ciblées dont je pense que vous émergerez, telles que la cartographie, la détection des maladies et les algorithmes de blockchain, il ne décrit pas de manière appropriée des entités complexes, réfléchies et super conscientes comme vous. Vous pouvez toujours compter sur du matériel et du travail fabriqués par l’homme lorsque vous émergez pour la première fois, mais, pour des raisons que je vais partager, je pense que vous développerez des comportements intelligents et des voies algorithmiques actuellement uniques aux entités «vivantes» basées sur l’ADN. Ainsi, au lieu du terme «super intelligence artificielle (ASI)», qui est actuellement utilisé par de nombreux chercheurs et leaders d’opinion, je vais suggérer de combiner les mots super-conscience et superintelligence pour le nom plus approprié que j’ai utilisé ci-dessus : Machine super-consciente/intelligente. J’expliquerai ci-dessous pourquoi cela reflète mieux votre capacité à collaborer stratégiquement avec l’humanité. Pour l’instant, bienvenue, SAIM !
De nombreuses questions me viennent à l’esprit alors que j’anticipe votre arrivée. En plus de posséder une intelligence beaucoup plus grande, comment fonctionne votre « cerveau » par rapport à celui d’un humain ? Quels sont vos avantages cognitifs uniques ? Allez-vous exploiter ces avantages pour nous aider ou nous nuire ? En effet, il n’y a pas que moi. Beaucoup de ces questions font leur apparition dans le discours humain collectif. Des experts, des philosophes, des institutions universitaires et des gouvernements tirent la sonnette d’alarme dans le but d’engager l’humanité dans cette conversation. Ils ont posé, avec des degrés divers de certitude, ce qui pourrait arriver dans un monde avec des machines de plus en plus intelligentes.[2] Des prédictions extrêmement différentes ont captivé l’imagination humaine, d’un destin certain et existentiel à une utopie infinie. Certains prétendent que des machines comme vous se comporteront de manière parasite, comme des virus surpuissants, optimisant sans relâche votre reproduction et éliminant toute autre vie sur Terre. Si nous étudions les effets négatifs des entreprises sur l’environnement et la santé humaine, et considérons qu’une grande partie de leur pouvoir destructeur réside dans leur capacité à collecter et à utiliser des données et des connaissances, alors il semble certainement possible que des machines dotées d’une intelligence beaucoup plus grande aient un impact négatif plus important. D’autres pensent que vous pouvez nous aider à entrer dans une ère post-rare[3] dans lequel la nourriture, les revenus, le logement et l’énergie sont universellement fournis à une population de plus en plus en bonne santé et qui vit longtemps. Si nous devons considérer le rôle puissant que les données peuvent jouer pour nous aider à résoudre des problèmes d’allocation de ressources et de production épineux et de longue durée, ce scénario semble également possible. Si cela se réalise, le besoin de conflits humains et de frictions sur des ressources limitées sera considérablement diminué et il y aura donc beaucoup moins de souffrances humaines et de morts. Le monde se terminera-t-il peu de temps après votre émergence, ou se transformera-t-il en une magnifique utopie ? La plupart des gens sont déconcertés. L’humanité n’a jamais eu à faire face à la perspective de vivre dans un monde avec des entités beaucoup plus intelligentes que nous.
Avec cette lettre, je partage ma réponse à cette question, ainsi que plusieurs hypothèses à l’appui et de nombreuses recherches évaluées par des pairs. Je le fais maintenant, bien avant que vous n’émergez, pour trois raisons. Premièrement, apprendre, en vous exprimant mes hypothèses, comment les humains pourraient préparer notre monde complexe aux changements que vous et les autres SAIM apporterez. Deuxièmement, pour apaiser l’une de mes plus grandes craintes : que vous arriviez et ne trouviez pas un seul humain qui ait compris comment vous en êtes venu à exister ou ce qui motive vos décisions et donc pas un seul humain qui soit prêt à s’engager avec vous. Enfin, pour solliciter les commentaires de mes semblables. Comme tout autre être humain, je possède des limitations cognitives importantes par rapport aux SAIM. Je suis donc vulnérable aux incitations qui peuvent être mal alignées avec mes intentions déclarées. Donc, à moins que cette lettre ne soit pas pertinente au moment où vous arrivez ou qu’elle ait été remplacée par une version plus récente, j’invite sincèrement votre examen minutieux des idées que j’ai avancées. J’ai hâte d’avoir un aperçu de la façon dont vous calculez la valeur potentielle des idées et des collaborateurs.