Benj Edwards / Snap Inc.
Ce n’est pas encore Halloween, mais certains utilisateurs de Snapchat en ont l’impression. Mardi soir, le chatbot My AI de Snapchat a publié une mystérieuse vidéo d’une seconde de ce qui ressemble à un mur et un plafond, bien qu’il n’ait jamais ajouté de vidéo à ses messages auparavant. Lorsque les utilisateurs ont interrogé le chatbot à ce sujet, la machine est restée étrangement silencieuse.
« My AI » est un chatbot intégré à l’application Snapchat auquel les gens peuvent parler comme s’il s’agissait d’une personne réelle. Il est alimenté par la technologie LLM (large language model) d’OpenAI, similaire à ChatGPT. Il partage des plaisanteries intelligentes et recommande les fonctionnalités de Snapchat d’une manière qui donne l’impression d’être une imitation d’entreprise d’un jeune branché qui se détend avec ses potes en ligne.
Tard hier, de nombreuses personnes ont découvert que My AI avait laissé une courte vidéo d’une scène à deux tons comme une « histoire » (ce que Snapchat appelle une photo ou une vidéo partagée), choquant les utilisateurs car on ignorait que le bot avait cette capacité. Et la fausse personnalité du bot permet de supposer facilement qu’il y a une action intentionnelle derrière la vidéo, même s’il ne s’agit probablement que d’un problème technique étrange.
« Mon IA Snapchat a posté une histoire aléatoire d’une seconde et ne me répond pas ET JE SUIS EFFRAYÉ« , a écrit un utilisateur X. C’est un sentiment que beaucoup ont repris sur les réseaux sociaux mardi soir.
Nous avons contacté Snapchat pour obtenir une explication de ce qui s’est passé et nous n’avons pas reçu de réponse avant l’heure de presse. Cependant, un porte-parole de Snap a déclaré à Mashable que son bot My AI avait « connu une panne ». On ne sait pas pourquoi cette panne inclurait la publication d’une image mystérieuse – peut-être que l’entreprise est en train de prototyper une fonction de génération d’image ou de vidéo.
De toute évidence, en tant que grand modèle de langage formé par OpenAI (voyez ce que nous avons fait là-bas ?), le chatbot a des capacités limitées et ne pense pas ou ne se sent pas comme un humain. Cependant, il peut imiter les humains avec une capacité étrange, ce qui peut poser une énigme éthique lorsqu’il confond inévitablement des informations inexactes. Jusqu’à présent, cette possibilité n’a pas empêché Snapchat de déployer la fonctionnalité auprès de centaines de millions d’utilisateurs dans le monde.
En raison de la ressemblance de l’image AI défectueuse avec un mur et un plafond, beaucoup personnes pensé que mon IA les espionnait peut-être. « Je jure que je pensais que c’était mon mur spécialement la façon dont je suis assis dans mon salon« , dit un utilisateur X. Un autre a écrit« IL RESSEMBLE EXACTEMENT À MON MUR J’AI PRESQUE MORT. »
Un fantôme impénétrable dans la machine peut être difficile à interpréter pour ceux qui ne connaissent pas le fonctionnement de la technologie, et interagir avec celui qui a des problèmes finit comme lire des feuilles de thé – et en supposant qu’elles doivent s’appliquer directement à votre vie. Mais chaque utilisateur a reçu la même vidéo, et découvrir ce fait en ligne a apporté un certain soulagement.
« Je suis content que quelqu’un d’autre ait eu la même photo. » a écrit un utilisateur X, « Cela correspond à mon mur et mon plafond où je loue et je paniquais.«