Une femme discute par SMS avec son amant décédé depuis longtemps. Une famille entend à nouveau parler un aîné décédé. Une mère a une nouvelle chance de dire au revoir à son enfant, décédé subitement, via un fac-similé numérique. Ceci n’est pas un aperçu de la prochaine saison de Miroir noir — ce sont toutes des histoires vraies du documentaire de Sundance Toi éternelune plongée fascinante et effrayante dans les entreprises technologiques utilisant l’IA pour ressusciter les morts numériquement.
C’est une autre façon dont l’IA moderne, qui inclut de grands modèles de langage comme ChatGPT et des solutions similaires sur mesure, a le potentiel de transformer la société. Et comme Toi éternel le montre, l’industrie de l’IA après la mort a déjà un effet profond sur ses premiers utilisateurs.
Le film s’ouvre sur une femme discutant par SMS tard dans la nuit avec un ami : « Je n’arrive pas à croire que j’essaye ça, comment vas-tu ? » demande-t-elle, comme si elle utilisait Internet pour la première fois. « Je vais bien. Je travaille, je vis. J’ai… peur », répond son amie. Lorsqu’elle demande pourquoi, ils répondent : « Je n’ai pas l’habitude d’être mort ».
Il s’avère que la femme, Christi Angel, utilise le service d’IA Project December pour discuter avec une simulation de son premier amour, décédé il y a de nombreuses années. Angel est clairement intrigué par la technologie, mais en tant que fervente chrétienne, elle est aussi un peu effrayée par la perspective de ressusciter les morts. Le système d’IA finit par lui donner quelques raisons de s’inquiéter : Cameroun révèle qu’il n’est pas au paradis, comme elle le suppose. Il est en enfer.
« Vous n’êtes pas en enfer », répond-elle. « Je suis en enfer », insiste le chatbot IA. Le Cameroun numérique dit qu’il se trouve dans un endroit « sombre et solitaire », ses seuls compagnons sont « pour la plupart des toxicomanes ». Le chatbot continue en disant qu’il hante actuellement un centre de traitement et suggère plus tard « Je vais te hanter ». C’était suffisant pour effrayer Angel et se demander pourquoi elle utilisait ce service en premier lieu.
Alors qu’Angel savait qu’elle parlait à une recréation numérique du Cameroun, basée sur les informations qu’elle avait fournies au Projet Décembre, elle a interagi avec le chatbot comme si elle discutait réellement avec lui sur un autre plan d’existence. C’est une situation à laquelle de nombreux utilisateurs de services de résurrection d’IA seront probablement confrontés : la rationalité peut facilement submerger votre réponse émotionnelle lorsque vous « parlez » avec un être cher décédé, même si la conversation se déroule uniquement par SMS.
Dans le film, la sociologue du MIT, Sherry Turkle, suggère que notre compréhension actuelle de la façon dont l’IA affecte les gens est similaire à notre relation avec les médias sociaux il y a plus de dix ans. C’est donc le bon moment pour poser des questions sur les valeurs humaines et les objectifs qu’il sert, dit-elle. Si nous avions eu une compréhension plus claire des médias sociaux dès le début, nous aurions peut-être pu pousser Facebook et Twitter à lutter plus sérieusement contre la désinformation et les abus en ligne. (Peut-être que les élections de 2016 auraient été très différentes si nous avions su comment d’autres pays pouvaient utiliser les médias sociaux comme une arme.)
Toi éternel nous présente également Joshua Barbeau, un écrivain indépendant devenu un peu une célébrité en ligne en 2021 lorsque La Chronique de San Francisco a rendu compte de son chatbot Project December : une version numérique de son ex-fiancée Jessica. Au début, il a utilisé Project December pour discuter avec des robots prédéfinis, mais il a finalement réalisé qu’il pouvait utiliser la technologie sous-jacente (GPT-3, à l’époque) pour en créer un avec la personnalité de Jessica. Leurs conversations semblent naturelles et réconfortent clairement Barbeau. Mais nous nous demandons toujours si discuter avec un fac-similé de sa fiancée décédée aide réellement Barbeau à gérer son chagrin. Cela pourrait tout aussi bien être considéré comme une béquille pour laquelle il se sent obligé de payer.
Il est également facile d’être cynique à propos de ces outils, compte tenu de ce que nous voyons de la part de leurs créateurs dans le film. Nous rencontrons Jason Rohrer, fondateur de Project December et ancien concepteur de jeux indépendants, qui apparaît comme un techno-libertaire typique.
« Je crois en la responsabilité personnelle », dit-il, après avoir également déclaré qu’il ne contrôlait pas exactement les modèles d’IA derrière le projet Décembre, et juste avant de le voir presque écraser un drone sur le visage de ses cofondateurs. « Je crois que les adultes consentants peuvent utiliser cette technologie comme ils le souhaitent et qu’ils sont responsables des résultats de tout ce qu’ils font. Ce n’est pas mon travail en tant que créateur de la technologie d’empêcher sa diffusion, car je suis peur de ce que quelqu’un pourrait en faire. »
Mais, comme le souligne Turkle du MIT, réanimer les morts via l’IA soulève des questions morales que des ingénieurs comme Rohrer ne prennent probablement pas en compte. « Vous avez affaire à quelque chose de beaucoup plus profond dans l’esprit humain », dit-elle. « Une fois que quelque chose est suffisamment constitué pour qu’on puisse y projeter cette force vitale. C’est notre désir d’animer le monde, qui est humain, qui fait partie de notre beauté. Mais il faut s’en soucier, il faut le garder en soi. » Vérifiez. Parce que je pense que cela nous mène sur un chemin dangereux. «
Un autre service, Hereafter.ai, permet aux utilisateurs d’enregistrer des histoires pour créer un avatar numérique d’eux-mêmes, avec lequel les membres de la famille peuvent parler maintenant ou après leur mort. Une femme avait hâte d’entendre à nouveau la voix de son père, mais lorsqu’elle a présenté l’avatar à sa famille, la réaction a été mitigée. Les plus jeunes semblaient intrigués, mais la génération plus âgée ne voulait pas y participer. « Je crains que parfois nous puissions aller trop loin avec la technologie », a déclaré la sœur de son père. « J’adorerais me souvenir de lui comme d’une personne merveilleuse. Je ne veux pas que mon frère m’apparaisse. Je suis satisfait de savoir qu’il est en paix, il est heureux et il apprécie les autres frères, sa mère et son père. « .
YOV, une société d’IA qui se concentre également sur les avatars personnels, ou « Versonas », souhaite que les gens puissent communiquer de manière transparente avec leurs proches décédés sur plusieurs canaux. Mais, comme toutes ces autres sociétés numériques de l’au-delà, elle se heurte aux mêmes dilemmes moraux. Est-il éthique de ressusciter numériquement quelqu’un, surtout s’il n’est pas d’accord ? L’illusion de parler aux morts est-elle plus utile ou plus nuisible pour ceux qui restent ?
La séquence la plus troublante de Toi éternel se concentre sur une mère sud-coréenne, Jang Ji-sun, qui a perdu son jeune enfant et reste en proie à la culpabilité de ne pas pouvoir lui dire au revoir. Elle a fini par être le sujet central d’un documentaire VR, Vous rencontrer, qui a été diffusé en Corée du Sud début 2020. Elle est allée bien au-delà d’une simple conversation textuelle : Jang a enfilé un casque VR et a été confrontée à un modèle étonnamment réaliste de son enfant en réalité virtuelle. La rencontre était clairement émouvante pour Jang et le documentaire a reçu beaucoup d’attention médiatique à l’époque.
« Il y a une frontière entre le monde des vivants et le monde des morts », a déclaré Kim Jong-woo, le producteur derrière Vous rencontrer. « Par ligne, j’entends le fait que les morts ne peuvent pas revenir à la vie. Mais les gens considéraient l’expérience comme un franchissement de cette ligne. Après tout, j’ai créé une expérience dans laquelle la bien-aimée semblait être revenue. Ai-je commis une énorme erreur ? Ai-je brisé le principe de l’humanité ? Je ne sais pas… peut-être dans une certaine mesure. »
Toi éternel dresse un portrait obsédant d’une industrie qui se prépare déjà à capitaliser sur les personnes en deuil. Ce n’est pas vraiment nouveau ; les médiums et les personnes prétendant parler aux morts existent depuis toute notre civilisation. Mais grâce à l’IA, nous avons désormais la capacité de réanimer ces âmes perdues. Bien que cela puisse être utile à certains, nous ne sommes clairement pas prêts pour un monde où la résurrection de l’IA est monnaie courante.