Alors même que le monde est encore sous le choc de sa tentative de comprendre et d’absorber les répercussions du lancement de ChatGPT et de divers systèmes basés sur l’IA – dont la poussière prendra beaucoup de temps à se déposer – les scientifiques continuent avec leurs propres applications de Generative Pre-trained Transformers (GPT) et LLM (Large Language Models). Et selon Scientifique Américainl’une des dernières applications de ce type est un modèle basé sur GPT qui tire ses invites non pas d’un texte humain, mais directement de l’esprit des utilisateurs.
Développé par une équipe de recherche avec l’Université du Texas à Austin, et publié dans un article de la revue Nature (s’ouvre dans un nouvel onglet), leur modèle GPT interprète l’activité cérébrale d’une personne via son flux sanguin comme le montre une IRMf (imagerie par résonance magnétique fonctionnelle), lui permettant d’accéder à ce que l’utilisateur « entend, dit ou imagine ». Et il le fait sans aucune chirurgie invasive ni aucun attachement sur le patient lui-même. Il y avait une opportunité claire de nommer le nouveau modèle BrainGPT, mais quelqu’un a ignoré ce mémo : les chercheurs se réfèrent à leur modèle de « lecture cérébrale » comme GPT-1 à la place.
Les chercheurs notent qu’en raison de la technique d’IRMf utilisée, GPT-1 ne peut pas analyser des mots spécifiques auxquels un sujet pourrait penser ; et parce que le modèle fonctionne à un niveau d’abstraction plus élevé (il extrapole le sens à partir de l’activité cérébrale, au lieu de rechercher le sens lui-même), certains détails sont perdus dans la traduction. Par exemple, un participant à la recherche a écouté un enregistrement indiquant : « Je n’ai pas encore mon permis de conduire. En traitant les données IRMf générées à partir du moment où le participant a entendu les mots, GPT-1 a renvoyé la phrase originale comme signifiant « Elle n’a même pas encore commencé à apprendre à conduire ». Donc, non – il ne transcrit pas nos pensées textuellement – mais il comprend leur sens général, ou « l’essentiel », comme les chercheurs ont caractérisé certains des résultats de GPT-1.
Tout cela soulève une question immédiate : où cela nous mène-t-il ?
En théorie, la technologie elle-même n’est pas malveillante. La technologie est une abstraction, un concept, qui peut ensuite être utilisé dans un but. Dans le vide, le GPT-1 pourrait aider les patients SLA ou aphasiques à communiquer. Toujours dans le vide, des technologies telles que celles-ci pourraient être exploitées par les utilisateurs pour « enregistrer » leurs pensées (imaginez une application Notes liée à vos propres pensées, ou une installation AutoGPT qui se greffe sur vos idées), ouvrant de nouveaux lieux pour l’auto- connaissances, et peut-être même de nouvelles voies pour la psychothérapie.
Mais pendant que nous sommes ici, nous pouvons également ajouter d’autres réaffectations moins bénéfiques de la technologie, comme l’utiliser pour extraire des informations directement du cerveau d’un sujet réticent. Être non invasif est à la fois une force et une faiblesse. Et il y a aussi le problème avec la technologie elle-même : les machines IRMf occupent des pièces entières et des millions de dollars de budget partout où elles se trouvent, ce qui limite considérablement les applications.
Même ainsi, il semblerait que l’élément « volonté » de la communication – ce choix d’exprimer nos propres pensées, de les amener dans le monde réel – est en train de disparaître. Les chercheurs eux-mêmes ont attiré leur attention sur les abus potentiels et les impacts négatifs de la technologie dans leur étude – quelque chose qui se produit beaucoup moins souvent qu’il ne le devrait dans les efforts de recherche universitaires et privés.
« Notre analyse de la confidentialité suggère que la coopération des sujets est actuellement requise à la fois pour former et pour appliquer le décodeur », lit-on. « Cependant, les développements futurs pourraient permettre aux décodeurs de contourner ces exigences. De plus, même si les prédictions des décodeurs sont inexactes sans la coopération du sujet, elles pourraient être intentionnellement mal interprétées à des fins malveillantes. Pour ces raisons et d’autres imprévues, il est essentiel de sensibiliser aux risques. de la technologie de décodage cérébral et adopter des politiques qui protègent la vie privée mentale de chacun. »
Alors que nous nous tenons à la porte au-delà de laquelle nos pensées ne sont plus en sécurité, c’est en effet une sage position.