Dans la Silicon Valley, certains des esprits les plus brillants croient qu’un revenu de base universel (UBI) qui garantit aux gens des paiements en espèces sans restriction les aidera à survivre et à prospérer alors que les technologies de pointe éliminent davantage de carrières telles que nous les connaissons, des cols blancs et des emplois créatifs – avocats, journalistes, artistes, ingénieurs en logiciel – aux rôles de travail. L’idée a suffisamment gagné en popularité pour que des dizaines de programmes de revenu garanti aient été lancés dans les villes américaines depuis 2020.
Pourtant, même Sam Altman, PDG d’OpenAI et l’un des plus grands partisans de l’UBI, ne pense pas qu’il s’agisse d’une solution complète. Comme il l’a dit lors d’une rencontre plus tôt cette année, « je pense que c’est une petite partie de la solution. Je pense que c’est super. je pense comme [advanced artificial intelligence] participe de plus en plus à l’économie, nous devrions distribuer beaucoup plus de richesses et de ressources que nous n’en avons et cela sera important dans le temps. Mais je ne pense pas que cela résoudra le problème. Je ne pense pas que cela va donner un sens aux gens, je ne pense pas que cela signifie que les gens vont complètement arrêter d’essayer de créer et de faire de nouvelles choses et quoi que ce soit d’autre. Je considérerais donc cela comme une technologie habilitante, mais pas comme un plan pour la société. »
La question posée est de savoir à quoi devrait alors ressembler un plan pour la société, et l’informaticien Jaron Lanier, un fondateur dans le domaine de la réalité virtuelle, écrit dans le New Yorker de cette semaine que la « dignité des données » pourrait être une partie encore plus importante de la solution.
Voici le principe de base : à l’heure actuelle, nous donnons principalement nos données gratuitement en échange de services gratuits. Lanier soutient qu’à l’ère de l’IA, nous devons arrêter de faire cela, que les modèles puissants qui se frayent actuellement un chemin dans la société doivent plutôt « être connectés avec les humains » qui leur donnent tant à ingérer et à apprendre en premier lieu .
L’idée est que les gens « soient payés pour ce qu’ils créent, même lorsqu’ils sont filtrés et recombinés » en quelque chose qui est méconnaissable.
Le concept n’est pas tout à fait nouveau, Lanier ayant introduit pour la première fois la notion de dignité des données dans un article de la Harvard Business Review de 2018 intitulé « A Blueprint for a Better Digital Society ».
Comme il l’écrivait à l’époque avec le co-auteur et économiste Glen Weyl, «[R]L’histoire du secteur technologique suggère une vague de sous-emploi à venir due à l’intelligence artificielle (IA) et à l’automatisation. Mais les prédictions des défenseurs de l’UBI « ne laissent place qu’à deux résultats », et elles sont extrêmes, ont observé Lanier et Weyl. « Soit il y aura une pauvreté de masse malgré les progrès technologiques, soit une grande partie de la richesse devra être placée sous le contrôle central et national par le biais d’un fonds de richesse sociale pour fournir aux citoyens un revenu de base universel. »
Le problème est que « l’hyper-concentration du pouvoir et sape ou ignore la valeur des créateurs de données », ont-ils écrit.
Démêler mon esprit
Bien sûr, attribuer aux gens le bon montant de crédit pour leurs innombrables contributions à tout ce qui existe en ligne n’est pas un défi mineur. Lanier reconnaît que même les chercheurs en dignité des données ne peuvent pas s’entendre sur la façon de démêler tout ce que les modèles d’IA ont absorbé ou sur le degré de détail d’une comptabilité. Pourtant, Lanier pense que cela pourrait être fait – progressivement.
Hélas, même s’il y a une volonté, un défi plus immédiat – le manque d’accès – est beaucoup à surmonter. Bien qu’OpenAI ait publié certaines de ses données d’entraînement au cours des années précédentes, il a depuis complètement fermé le kimono. Lorsque le président d’OpenAI, Greg Brockman, a décrit à TechCrunch le mois dernier les données de formation pour le modèle de langage étendu le plus récent et le plus puissant d’OpenAI, GPT-4, il a déclaré qu’il provenait d’une «variété de sources de données sous licence, créées et accessibles au public, qui peuvent inclure publiquement informations personnelles disponibles », mais il a refusé d’offrir quoi que ce soit de plus spécifique.
Sans surprise, les régulateurs se demandent quoi faire. OpenAI — dont la technologie notamment se répand comme une traînée de poudre — est déjà dans le collimateur d’un nombre croissant de pays, dont l’autorité italienne, qui a bloqué l’utilisation de son populaire chatbot ChatGPT. Les régulateurs de données français, allemands, irlandais et canadiens enquêtent également sur la manière dont il collecte et utilise les données.
Mais comme Margaret Mitchell, chercheuse en IA qui était auparavant co-responsable de l’éthique de l’IA chez Google, l’a déclaré au point de vente Technology Review, il pourrait être presque impossible à ce stade pour toutes ces entreprises d’identifier les données des individus et de les supprimer de leurs modèles.
Comme l’explique le point de vente: OpenAI serait mieux aujourd’hui s’il avait intégré la tenue de registres de données dès le départ, mais il est courant dans l’industrie de l’IA de créer des ensembles de données pour les modèles d’IA en grattant le Web sans discernement, puis en externalisant certains des nettoyage de ces données.
Comment sauver une vie
Si ces acteurs ont une compréhension limitée de ce qui se trouve maintenant dans leurs modèles, c’est un défi de taille pour la proposition de « dignité des données » de Lanier.
Que cela le rende impossible, c’est quelque chose que seul le temps dira.
Certes, il y a lieu de déterminer quelques façon de donner aux gens la propriété de leur travail, même si ce travail est rendu extérieurement «autre» au moment où un grand modèle de langage l’a mâché.
Il est également fort probable que la frustration de savoir qui possède quoi augmentera au fur et à mesure que le monde sera remodelé par ces nouveaux outils. Déjà, OpenAI et d’autres font face à de nombreuses et vastes poursuites pour violation du droit d’auteur pour savoir s’ils ont ou non le droit de gratter l’ensemble d’Internet pour alimenter leurs algorithmes.
Quoi qu’il en soit, il ne s’agit pas seulement de donner du crédit là où il est dû. Reconnaître la contribution des gens aux systèmes d’IA peut être nécessaire pour préserver la santé mentale des humains au fil du temps, suggère Lanier dans son article du New Yorker.
Il pense que les gens ont besoin de libre arbitre et, selon lui, le revenu de base universel « revient à mettre tout le monde au chômage afin de préserver l’idée de l’intelligence artificielle de la boîte noire ».
Pendant ce temps, mettre fin à la « nature de la boîte noire de nos modèles d’IA actuels » faciliterait la comptabilisation des contributions des personnes, ce qui les rendrait plus enclins à rester engagés et à continuer à apporter des contributions.
Tout pourrait se résumer à établir une nouvelle classe créative au lieu d’une nouvelle classe dépendante, écrit-il. Et de qui préféreriez-vous faire partie ?