Dans une interview sur Leading, un podcast d’Alastair Campbell et Rory Stewart, co-animateurs de The Rest is Politics, Bill Gates, co-fondateur de Microsoft et de la Fondation Gates, parle de sa perception des dangers de l’IA.
« L’essentiel est que les gentils ont une meilleure IA que les méchants », déclare Gates. « Le problème n’est pas que les IA deviennent incontrôlables, mais que les IA créées par des personnes mal intentionnées deviennent plus puissantes. »
« Prenons simplement la cyberdéfense. Si l’IA de cyberdéfense des gentils est aussi bonne ou meilleure que l’IA de cyberattaque des méchants, alors c’est une bonne situation. Et vous n’arrêterez pas le développement de l’IA à l’échelle mondiale. Quelqu’un peut affirmer que peut-être vous devriez essayer de faire cela et créer une armée mondiale pour envahir les laboratoires informatiques, mais peu de gens insistent sur ce point. Et donc vous allez avoir ces IA de plus en plus puissantes sur lesquelles, espérons-le, les gentils garderont une longueur d’avance. « .
Gates ne nommera pas et ne fera pas honte à qui il considère comme un méchant ou un bon gars dans cette analogie, bien qu’il dénonce l’instigation par la Russie d’une attaque contre l’Ukraine. Sinon, Gates espère que la plupart des pays envisagent de travailler de manière judicieuse avec l’IA.
« J’espère que la plupart des pays souhaitent que ces choses soient façonnées de manière appropriée », a déclaré Gates.
Cependant, Gates note également au cours de l’épisode que les pays individuels ont moins à voir avec l’élaboration de l’IA. Selon Gates, cela est dû au fait que le marché gouvernemental de l’IA est bien plus petit que les marchés des entreprises et des consommateurs.
Les technologies révolutionnaires précédentes, y compris la naissance des microprocesseurs, qui ont été un facteur déterminant dans les premiers succès de Gates chez Microsoft, ont été massivement financées par le gouvernement à leurs débuts.
« Les gouvernements sont confrontés à un défi dans la mesure où ils ne sont pas les premiers à l’avoir financé. [AI]. Il y a 20 ou 30 ans, c’était l’argent du gouvernement pour la recherche, mais maintenant c’est Google, Microsoft, etc. L’argent de la R&D est énorme. »
Gates travaille toujours en étroite collaboration avec Microsoft, qui s’est associé au leader du marché des logiciels d’IA, OpenAI. Gates parle également à ce groupe, dirigé par Sam Altman. Alors que ces entreprises se lancent dans l’avenir de l’IA, il n’est peut-être pas surprenant que Gates apparaisse comme un admirateur prudent de ce qui est possible avec l’intelligence artificielle – comprenant l’impact que l’IA peut avoir sur le marché, et l’a déjà fait à certains égards, mais tient à souligner que il doit être façonné pour éviter les dangers.
« Chaque fois que vous avez des innovations, elles sont en quelque sorte neutres, d’une certaine manière, et elles peuvent finir par donner du pouvoir uniquement aux riches, ou elles peuvent finir par avoir des effets secondaires négatifs inattendus. Avec l’IA, nous pouvons déjà dire que les mauvaises personnes peuvent l’utiliser pour un outil pour la cyberattaque ou la conception d’armes de bioterrorisme. Nous devons donc façonner cela de manière à ce que les bonnes choses, comme des tuteurs pour les enfants qui ont besoin d’apprendre, de meilleurs conseils médicaux, nous devons façonner cela et avoir d’excellentes IA qui font de la cyberdéfense .
Gates conclut : « Oui, je partage toutes les inquiétudes, mais je considère également les aspects positifs comme étant incroyablement importants. »
Il y a un sujet qui revient fréquemment dans les conversations lorsque je parle avec des gens de l’avenir de l’IA, c’est la peur d’un système d’IA détraqué et mettant fin à la race humaine. Peut-être que ce sont les médias populaires qui existent depuis des décennies qui perpétuent cette pensée, ou peut-être que nous voyons simplement quelque chose dans une intelligence artificielle générale qui semble intrinsèquement dangereux. Mais est-ce la faute de l’IA ou des humains qui l’utilisent ?
Je dirais toujours qu’il existe un certain degré d’incertitude quant à la sécurité de ce que l’on appelle une intelligence artificielle générale – le potentiel d’un système d’IA qui n’agit plus conformément aux acteurs humains qui l’ont créé ou l’utilisent. Cependant, il n’y a pas encore de quoi s’inquiéter, car nous n’avons pas encore réussi à découvrir une IA dotée de l’intelligence globale d’un humain.
Vous pouvez écouter l’interview complète de Gates sur le podcast Leading, disponible sur Spotify, Audible, Apple Podcasts, entre autres. Cela vaut la peine d’être écouté, si ce n’est pour Gates qui parle de l’IA, mais de ce que ça fait de voir des théoriciens du complot lui crier dessus dans la rue pour les avoir prétendument traqués.