Dans une récente interview avec StrictlyVC (s’ouvre dans un nouvel onglet) (via Yahoo Finance (s’ouvre dans un nouvel onglet)), le PDG et co-fondateur d’OpenAI, Sam Altman, a parlé de l’avenir de l’IA, bon et mauvais, de la manière la plus vague possible, ce qui me fait un peu peur.
Altman a répondu aux questions sur OpenAI, les créateurs du très populaire chatbot AI ChatGPT (s’ouvre dans un nouvel onglet)et l’outil d’art AI DALL-E, (s’ouvre dans un nouvel onglet) ainsi que le paysage global de l’IA. Alors que la majeure partie de l’interview est principalement une salade de mots de termes de la Silicon Valley, Altman a donné son avis sur les meilleurs et les pires scénarios pour l’intelligence artificielle.
Altman a déclaré qu’il pensait que « le meilleur des cas est si incroyablement bon qu’il m’est même difficile d’imaginer » et que cela pourrait aider à « résoudre les impasses et améliorer tous les aspects de la réalité et nous permettre à tous de vivre notre meilleure vie ».
« Je pense que le bon cas est incroyablement bon; vous parlez comme une personne vraiment folle quand vous en parlez. »
En ce qui concerne le pire scénario, Altman a donné une réponse moins qu’ensoleillée aux dangers potentiels si et quand l’IA tourne mal. « Le mauvais cas – et je pense que c’est important de le dire – est, comme, les lumières s’éteignent pour nous tous », a déclaré Altman. « Je suis plus préoccupé par un cas d’abus accidentel à court terme. »
Altman a souligné qu’il ne s’agissait pas de « l’IA se réveille et décide d’être le mal », mais plutôt qu’il est « impossible d’exagérer l’importance du travail de sécurité et d’alignement de l’IA » afin d’empêcher les abus des systèmes, intentionnels ou non.
Nous avons déjà constaté des problèmes avec les outils générés par l’IA (s’ouvre dans un nouvel onglet), y compris ChatGPT, qui peut être utilisé pour commettre du plagiat, écrire des e-mails de phishing et diffuser des informations erronées, ainsi que des problèmes juridiques liés aux droits d’auteur avec la génération d’art IA. Frustrant, Altman n’est pas entré dans les détails. Compte tenu de l’investissement de milliards de dollars de Microsoft dans OpenAI (s’ouvre dans un nouvel onglet)il aurait été agréable d’entendre parler des pièges potentiels qui pourraient apparaître avec des outils d’IA mal utilisés ou malveillants.