Kissinger, Schmidt et Huttenlocher n’ont pas non plus peur d’explorer le côté le plus sombre de l’IA. Ils sont lucides sur les façons dont l’IA pourrait permettre aux dictateurs de surveiller leurs citoyens et de manipuler les informations pour inciter les gens à commettre des violences.
Bien que l’IA améliore déjà nos vies à bien des égards, Kissinger, Schmidt et Huttenlocher avertissent qu’il nous faudra de nombreuses années en tant qu’espèce pour créer un système aussi puissant que nous le méritons. Ils suggèrent judicieusement de ne pas perdre de vue les valeurs que nous voulons insuffler à cette nouvelle intelligence artificielle.
Merci GPT-3 ! Maintenant, quelques notes :
Premièrement, l’IA n’a pas été un succès sans réserve. Il a fallu quelques essais à Sudowrite. À la première tentative, il a craché une série de phrases continues qui laissaient entendre que GPT-3 était coincé dans une sorte de boucle étrange et récursive. (Cela commençait : « Le livre que vous lisez en ce moment est un livre sur un coin, qui est un livre sur un livre, qui est un livre sur un sujet, qui est un sujet sur un sujet, qui est un sujet sur un sujet. ») Quelques essais plus tard, il a semblé abandonner complètement la tâche de critique de livres et a commencé à simplement énumérer les noms des entreprises technologiques. (« Google, Facebook, Apple, Amazon, IBM, Microsoft, Baidu, Tencent, Tesla, Uber, Airbnb, Twitter, Snap, Alibaba, WeChat, Slack. »)
Mais il s’est rapidement réchauffé, et en quelques minutes, l’IA proposait des paragraphes d’analyse incroyablement convaincants – certains, franchement, meilleurs que ce que j’aurais pu générer par moi-même.
Cela correspond à l’un des thèmes récurrents de « L’ère de l’IA », à savoir que bien que les systèmes d’IA d’aujourd’hui puissent parfois être maladroits et erratiques, ils s’améliorent rapidement et vont bientôt égaler ou dépasser les compétences humaines dans un certain nombre de domaines importants. tâches, en résolvant les problèmes d’une manière qu’aucun humain n’aurait pensé à les résoudre. À ce stade, écrivent les auteurs, l’IA « transformera tous les domaines de l’expérience humaine ».
Deuxièmement, alors que GPT-3 avait raison sur la portée de « The Age of AI » – avec des chapitres sur tout, des algorithmes de médias sociaux aux armes autonomes – il n’a pas noté que toute cette ampleur a un coût. Le livre semble superficiel et superficiel par endroits, et bon nombre de ses recommandations sont étrangement vagues.
Dans un chapitre sur les risques géopolitiques posés par l’IA, les auteurs concluent que « les nations du monde doivent prendre des décisions urgentes concernant ce qui est compatible avec les concepts de dignité humaine inhérente et d’agence morale ». (OK, nous allons y arriver !) Une brève section sur TikTok – une application utilisée par plus d’un milliard de personnes dans le monde, dont la propriété par une entreprise chinoise soulève des questions légitimement fascinantes sur la souveraineté nationale et la liberté d’expression – se termine par le jetable observation que « des énigmes géopolitiques et réglementaires plus complexes nous attendent dans un avenir proche ». Et lorsque les auteurs font des recommandations spécifiques – comme une proposition visant à restreindre l’utilisation de l’IA dans le développement d’armes biologiques – ils ne précisent pas comment un tel résultat pourrait être atteint, ou qui pourrait s’y opposer.