Au moment même où la course aux armements générative de l’IA s’intensifie, ChatGPT et Barde Google pourrait être en difficulté car une nouvelle lettre ouverte appelle à l’arrêt du développement et de la formation de nouveaux systèmes d’IA.
Tel que rapporté par BipOrdinateur (s’ouvre dans un nouvel onglet)plus d’un millier de personnes, dont des visionnaires de la technologie comme Elon Musk et même Steve Wozniak, ont cosigné un lettre ouverte (s’ouvre dans un nouvel onglet) publié par le Future of Life Institute.
La lettre suggère qu’OpenAI, Google et d’autres entreprises travaillant dans ce domaine en plein essor devraient suspendre le développement et la formation de systèmes d’IA plus puissants que GPT-4 pendant au moins six mois. Pendant ce temps, les équipes de développement de l’IA auront l’occasion de se réunir et de convenir de protocoles de sécurité qui seront ensuite utilisés lors de la réalisation d’audits sur les systèmes d’IA par des experts externes et indépendants.
Tout comme la façon dont les médias sociaux ont bouleversé le monde, la lettre note que « l’IA avancée pourrait représenter un changement profond dans l’histoire de la vie sur Terre ». Pour cette raison, le Future of Life Institute et les cosignataires de la lettre souhaitent que le développement de l’IA soit « planifié et géré avec un soin et des ressources proportionnés ».
Pour le moment, ce n’est pas le cas car ces derniers mois ont vu les laboratoires d’IA se livrer une concurrence féroce pour « développer et déployer des esprits numériques toujours plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable ». La lettre fait un bon point ici, comme nous l’avons vu DAN, le jumeau maléfique de ChatGPT dérailler et autres Hallucinations de l’IA.
Il est peut-être déjà trop tard
Une autre information intéressante tirée de la lettre est que les systèmes d’IA modernes sont désormais en concurrence directe avec les humains en ce qui concerne les tâches générales et cela ne fera probablement qu’empirer à mesure que des systèmes d’IA plus avancés seront développés.
Nous n’avons pas encore pleinement examiné et finalement décidé des questions existentielles et éthiques posées par les progrès rapides de l’IA. Dans le même temps, les gouvernements du monde entier devront peut-être se rassembler et mettre en place les réglementations nécessaires pour empêcher l’IA de prendre le relais tout en protégeant l’humanité.
Si OpenAI, Google et d’autres entreprises travaillant avec l’IA n’acceptent pas une pause dans le développement des systèmes d’IA, la lettre suggère que « les gouvernements devraient intervenir et instituer un moratoire ».
Bien que la lettre n’appelle pas à l’arrêt de tout le développement de l’IA, elle met en lumière la façon dont la concurrence récente dans l’espace en pleine croissance pourrait conduire à des choses incontrôlables. Personne ne veut vivre dans un monde où les humains sont contrôlés par l’IA et j’espère que les entreprises en tête seront disposées à prendre du recul et à réévaluer la vitesse à laquelle cette nouvelle technologie progresse.