L’un des pionniers de l’intelligence artificielle a fait une sortie remarquée. Geoffrey Hinton, surnommé le « parrain de l’IA », raconte Le New York Times il a démissionné de son poste de vice-président de Google et d’ingénieur en avril pour avertir librement des risques associés à la technologie. Le chercheur craint que Google renonce à sa précédente restriction sur les versions publiques de l’IA dans le but de concurrencer ChatGPT, Bing Chat et des modèles similaires, ouvrant la porte à de multiples problèmes éthiques.
À court terme, Hinton craint que l’IA générative ne conduise à une vague de désinformation. Vous pourriez « ne plus être en mesure de savoir ce qui est vrai », dit-il. Il craint également que cela n’élimine pas seulement le « travail pénible », mais remplace carrément certains emplois. À l’avenir, le scientifique s’inquiète à la fois de la possibilité d’armes entièrement autonomes et de la tendance des modèles d’IA à apprendre un comportement étrange à partir des données d’entraînement. Bien que certains de ces problèmes soient théoriques, Hinton craint une escalade qui ne sera pas contrôlée sans réglementation ou développement de contrôles efficaces.
Hinton dit que sa position a commencé à changer l’année dernière, lorsque Google, OpenAI et d’autres ont commencé à créer des systèmes d’IA qui, selon lui, sont parfois supérieurs à l’intelligence humaine. L’IA s’est développée rapidement au cours des cinq dernières années seulement – c’est « effrayant » ce qui pourrait arriver dans les cinq prochaines années, suggère le chercheur.
Dans une déclaration à Engadget, le scientifique en chef de Google, Jeff Dean, affirme que son entreprise est toujours dédiée à une « approche responsable » et sur ses gardes face aux « risques émergents ». Le géant de la recherche a récemment publié une version approximative de son chatbot Bard en mars après des mois de rumeurs selon lesquelles l’entreprise s’inquiète de la menace concurrentielle de l’IA générative. Avant cela, il refusait de publier publiquement des modèles d’IA comme son Imagen orienté vers l’art en raison du potentiel de contenu toxique et de violations du droit d’auteur.
Hinton a consacré sa carrière à l’étude des réseaux neuronaux qui sont souvent essentiels à l’IA, mais il est surtout connu pour avoir développé un système de reconnaissance d’objets en 2012. Son réseau neuronal révolutionnaire pourrait utiliser des images d’entraînement pour aider à reconnaître des objets communs. Google a acheté la startup DNNresearch de Hinton en 2013, et le concept sous-jacent de son invention a contribué à favoriser une vague de développement qui a conduit à la technologie générative d’aujourd’hui.
Hinton n’est pas seul. Un certain nombre d’universitaires influents et de sommités technologiques, dont Elon Musk et Steve Wozniak, ont récemment signé une lettre ouverte appelant à une pause de six mois sur le développement de l’IA pour résoudre les problèmes d’éthique et de sécurité. En tant que l’une des figures les plus importantes de l’industrie, cependant, la parole de Hinton a un poids significatif.
Tous les produits recommandés par Engadget sont sélectionnés par notre équipe éditoriale, indépendante de notre maison mère. Certaines de nos histoires incluent des liens d’affiliation. Si vous achetez quelque chose via l’un de ces liens, nous pouvons gagner une commission d’affiliation. Tous les prix sont corrects au moment de la publication.