Un bon joueur de go amateur a battu un système d’IA de haut niveau après avoir exploité une faiblesse découverte par un deuxième ordinateur, Le Financial Times a signalé. En exploitant la faille, le joueur américain Kellin Pelrine a vaincu le système KataGo de manière décisive, remportant 14 des 15 matchs sans autre aide informatique. C’est une rare victoire de Go pour les humains depuis la victoire décisive d’AlphaGo en 2016 qui a contribué à ouvrir la voie à l’engouement actuel pour l’IA. Cela montre également que même les systèmes d’IA les plus avancés peuvent avoir des angles morts flagrants.
La victoire de Pelrine a été rendue possible par une société de recherche appelée FAR AI, qui a développé un programme pour sonder les faiblesses de KataGo. Après avoir joué plus d’un million de parties, il a pu trouver une faiblesse qui pourrait être exploitée par un joueur amateur décent. Ce n’est « pas complètement trivial mais ce n’est pas super difficile » à apprendre, a déclaré Pelrine. Il a utilisé la même méthode pour battre Leela Zero, une autre top Go AI.
Voici comment cela fonctionne : le but est de créer une grande « boucle » de pierres pour encercler le groupe d’un adversaire, puis de distraire l’ordinateur en effectuant des mouvements dans d’autres zones du plateau. Même lorsque son groupe était presque encerclé, l’ordinateur n’a pas remarqué la stratégie. « En tant qu’être humain, ce serait assez facile à repérer », a déclaré Pelrine, car les pierres qui l’entourent se détachent clairement sur le tableau.
La faille démontre que les systèmes d’IA ne peuvent pas vraiment « penser » au-delà de leur formation, ils font donc souvent des choses qui semblent incroyablement stupides pour les humains. Nous avons vu des choses similaires avec des chatbots comme celui utilisé par le moteur de recherche Bing de Microsoft. Bien qu’il soit doué pour les tâches répétitives telles que l’élaboration d’un itinéraire de voyage, il a également fourni des informations incorrectes, réprimandé les utilisateurs pour avoir perdu son temps et même présenté un comportement « déséquilibré » – probablement en raison des modèles sur lesquels il a été formé.
Lightvector (le développeur de KataGo) est certainement conscient du problème, que les joueurs exploitent depuis plusieurs mois maintenant. Dans un post GitHub, il a déclaré qu’il travaillait sur un correctif pour une variété de types d’attaques qui utilisent l’exploit.
Tous les produits recommandés par Engadget sont sélectionnés par notre équipe éditoriale, indépendante de notre maison mère. Certaines de nos histoires incluent des liens d’affiliation. Si vous achetez quelque chose via l’un de ces liens, nous pouvons gagner une commission d’affiliation. Tous les prix sont corrects au moment de la publication.