Alors que l’IA aime ChatGPT et Barde Google ont certainement été impressionnants, tout le monde n’est pas ravi. Les experts de l’IA ont appelé à « avertissements de santé numériques, » et Elon Musk a rejoint beaucoup d’autres dans l’industrie en signer une lettre ouverte appelant à une pause dans la course aux armements de l’IA.
Maintenant, l’un des membres de Google rejoint le camp anti-IA. Selon Le New York Times (s’ouvre dans un nouvel onglet), Geoffrey Hinton, pionnier de l’utilisation des réseaux de neurones dans l’IA, a quitté Google après plus d’une décennie au sein de l’entreprise. Sa raison ? Il peut donc s’exprimer librement contre la montée de l’IA.
Pour mémoire, le Dr Hinton ne semble pas s’inquiéter d’un scénario de type Skynet à la The Terminator. Au lieu de cela, il fait écho à deux préoccupations majeures concernant l’IA : la désinformation et l’automatisation.
Bien qu’il ait eu l’impression il y a à peine un an que Google était un « bon intendant » de la technologie de l’IA, la montée en puissance des chatbots et la façon dont ils sont abusés ont apparemment changé d’avis. Il voit maintenant Google et Microsoft dans une course aux armements contre l’IA qu’il est impossible d’arrêter alors que la personne moyenne a encore du mal à faire la différence entre le contenu créé par l’IA et celui créé par l’homme. Et alors que les versions actuelles de ChatGPT et Bard gèrent principalement des tâches banales, il s’inquiète que bientôt « [chatbots] pourrait en retirer plus que cela.
Un ancien ingénieur de Google n’est pas d’accord avec les alarmistes de l’IA
Cependant, le Dr Hinton n’était pas le seul ancien employé de Google à parler d’IA ces derniers jours. Blake Lemoine était un ingénieur Google jusqu’à ce qu’il enregistre avec Le Washington Post (s’ouvre dans un nouvel onglet) affirmant que LaMDA – le grand modèle de langage (LLM) qui alimente Google Bard – était sensible. Il a été licencié par Google peu de temps après.
Mais malgré cela, Lemoine pense que Google se comporte « de manière sûre et responsable ». Dans une interview avec Futurisme (s’ouvre dans un nouvel onglet), il affirme que Google était en fait sur le point de publier une version de Bard avant qu’OpenAI ne libère ChatGPT, mais a débranché en partie à cause des préoccupations qu’il a soulevées. Il affirme également que l’idée que Google est « poussé par OpenAI » est en grande partie un récit médiatique.
Sur cette note, nous devons souligner qu’il existe une bonne quantité de rapports – y compris de notre part – qui suggèrent que Google a été pris au dépourvu par le lancement de ChatGPT et Bing avec ChatGPT. C’est ce sentiment qui aurait stimulé la création de magesle nom du projet supposé pour le moteur de recherche AI de nouvelle génération de Google.
Mais Lemoine semble balayer ces allégations. Selon lui, Google dispose toujours d’une technologie plus avancée qu’il s’abstient de diffuser au public malgré son développement depuis des années.
Personnellement, je pense que la vérité se situe probablement quelque part entre les deux, mais il convient de noter qu’un expert ayant toutes les raisons d’appeler Google sur son éthique de l’IA semble confiant que le géant de la technologie gérera la nouvelle technologie de manière appropriée.
L’expert de Microsoft AI reste prudemment optimiste
Quelque part au milieu – mais plus près de Lemoine que de Hinton se trouve Eric Horvitz, directeur scientifique de Microsoft. Alors qu’il a récemment signé son nom sur un lettre ouverte séparée (s’ouvre dans un nouvel onglet) de celui signé par Musk, il ne pense pas nécessairement que nous devions claquer les pauses sur l’IA. Notamment, sa lettre appelle à une réglementation gouvernementale plutôt qu’à une pause dans la recherche.
Horvitz a récemment rencontré Fortune (s’ouvre dans un nouvel onglet) pour une interview qui a abordé bon nombre des mêmes préoccupations que le Dr Hinton a citées dans sa décision de quitter Google. Horvitz comprend pourquoi de nombreuses personnes ont signé la lettre ouverte appelant à une pause dans le développement du modèle d’IA, mais soutient que six mois ne représentent pas vraiment une pause. Il convient également avec Hinton que les mauvais acteurs utilisant l’IA sont une préoccupation majeure, mais qu’une prise de contrôle de l’IA n’est pas en tête de sa liste de soucis.
Mais il réitère que la clé pour empêcher ces mauvais acteurs d’utiliser l’IA à mauvais escient est une combinaison de facteurs qui comprend des réglementations. Il n’est pas non plus prêt à tirer la sonnette d’alarme sur l’automatisation. Lorsqu’on lui a demandé par Fortune quels aspects de la vie humaine il s’attend à voir remplacés par des machines, Horvitz a déclaré que « Ma réaction est que presque tout ce qui concerne l’humanité ne sera pas remplacé par des machines. » Il a ajouté, « alors qu’ils [AI] pourrait faire des choses incroyables, je n’ai pas vu d’incroyables éclats de vrai génie qui viennent de l’humanité.
Conclusion : il n’y a pas de réponses faciles sur l’avenir de l’IA
Comme vous pouvez le voir, il n’y a pas d’unanimité concernant la menace que représente l’IA et si les entreprises en font actuellement assez pour résoudre les menaces qui peuvent exister. Pourtant, entre ces trois hommes, un fil conducteur apparaît.
Le Dr Hinton et Horvitz tiennent tous deux à déclarer que les mauvais acteurs qui utilisent l’IA à mauvais escient sont une préoccupation majeure. Dans le cas du Dr Hinton, sa solution semble être d’arrêter ces IA génératives avant que nous n’atteignions le moment de la bombe atomique. En comparaison, Horvitz demande que les réglementations gouvernementales et les actions des entreprises travaillent côte à côte pour assurer un avenir plus sûr de l’IA.
Et il y a des signes que Horvitz n’est pas seul. Tel que rapporté par CNBC (s’ouvre dans un nouvel onglet)Nvidia a annoncé NeMo Guardrails pour garder les chatbots LLM sous contrôle en définissant des paramètres pour limiter les limites dans lesquelles les chatbots IA peuvent opérer.
Le temps nous dira si finalement le Dr Hinton a raison ou si des optimistes relatifs tels que Lemoine et Horvitz sont plus proches de la vérité. Mais nous n’aurons peut-être pas à attendre trop longtemps pour les nouvelles avancées de la technologie de l’IA.
Assurez-vous de consulter notre Google I/O 2023 couverture pour voir ce que Google peut ou non annoncer sur ses futurs produits d’IA.