Les avis des utilisateurs pour la fonctionnalité « Mon IA » de Snapchat sont là – et ils ne sont pas bons. Lancé la semaine dernière pour les utilisateurs mondiaux après avoir été initialement un ajout réservé aux abonnés, le nouveau chatbot AI de Snapchat alimenté par la technologie GPT d’OpenAI est désormais épinglé en haut de l’onglet Chat de l’application où les utilisateurs peuvent lui poser des questions et obtenir des réponses instantanées. Mais suite au déploiement du chatbot dans la communauté élargie de Snapchat, l’application de Snapchat a connu une augmentation des critiques négatives au milieu d’un nombre croissant de plaintes partagées sur les réseaux sociaux.
Au cours de la semaine dernière, l’avis moyen de Snapchat sur l’App Store américain était de 1,67, 75 % des avis étant 1 étoile, selon les données de la société d’intelligence d’applications Sensor Tower. À titre de comparaison, au cours du premier trimestre 2023, l’avis moyen de Snapchat sur l’App Store américain était de 3,05, avec seulement 35 % des avis 1 étoile.
Le nombre de revues quotidiennes a également été multiplié par 5 au cours de la semaine dernière, a noté la firme.
Un autre fournisseur de données d’application, Apptopia, signale une tendance similaire. Son analyse montre que « IA » était le mot-clé le plus important dans les critiques de l’App Store de Snapchat au cours des sept derniers jours, où il a été mentionné 2 973 fois. L’entreprise a attribué au terme une note « Impact Score » de -9,2. Cet Impact Score est un indice pondéré qui mesure l’effet d’un terme sur le sentiment et varie de -10 à +10.
Apptopia a également déclaré que Snapchat avait reçu environ 3 fois plus de notes 1 étoile que d’habitude le 20 avril 2023. C’est le lendemain de l’annonce de la sortie mondiale de My AI.
Maintenant, le nombre d’avis 1 étoile commence à baisser un peu, mais ils restent toujours élevés.
Crédits image : Apptopia (analyse des évaluations des applications Snapchat)
Le contrecoup contre My AI de Snapchat survient à un moment où le battage médiatique autour de l’IA est à un point d’inflexion. Les entreprises réfléchissent à la manière d’intégrer l’IA dans leurs activités, et non si ils devraient.
Pour Snap, l’ajout d’un chatbot IA à son application sociale aurait été considéré comme une décision intelligente, car des dizaines d’applications de chatbot IA remplissent les magasins d’applications, rapportant des millions de dollars – un signal qui pourrait facilement être interprété comme indiquant demande croissante des consommateurs pour des expériences de chat social AI.
Mais de nombreux utilisateurs de Snapchat ne sont pas ravis de My AI, qui est apparu dans leur application sans avertissement ni consentement.
Crédits image : Capture d’écran Snapchat
Dans une certaine mesure, c’est le placement du chatbot qui est la source de préoccupation.
Mon IA est épinglée en haut du fil de discussion des utilisateurs dans l’application et ne peut pas être détachée, bloquée ou supprimée, comme d’autres conversations peuvent l’être. Ce flux est l’endroit où les utilisateurs de Snapchat ont des interactions régulières avec des amis et n’est pas nécessairement un endroit où ils veulent jouer avec des fonctionnalités expérimentales. De plus, Snapchat a déjà une présence établie dans ce flux avec ses propres chats « Team Snapchat », et maintenant il double l’espace d’écran qu’il veut prendre pour lui-même – ou, du moins, c’est ainsi que certains utilisateurs le voient.
Il n’est pas difficile de trouver des plaintes concernant la fonctionnalité My AI sur les réseaux sociaux. Une simple recherche de « My AI » sur Twitter, par exemple, révélera de nombreux résultats. Les utilisateurs partagent également leurs plaintes directement avec Snapchat.
Après avoir annoncé le nouveau chatbot dans un tweet la semaine dernière lors de l’événement Partner Summit de Snap, les utilisateurs ont pris les réponses pour citer leurs griefs.
Dans des dizaines de réponses au tweet de Snap, les utilisateurs analysent entièrement le bot AI. Ils disent que cela ne devrait être qu’opt-in ou qu’ils devraient avoir la possibilité de le supprimer, au lieu de le leur imposer. Certains utilisateurs sont tellement contrariés qu’ils menacent même de quitter Snapchat à cause de cela et de supprimer complètement l’application.
Beaucoup repoussent également le fait que la suppression de My AI de leur flux de chat nécessite un abonnement Snapchat +. Selon la propre documentation de Snap, les abonnés Snapchat + recevront un accès anticipé aux nouvelles fonctionnalités de My AI et auront la possibilité de désépingler My AI ou de le supprimer de leurs discussions.
Cela met en colère les gens qui ont maintenant l’impression d’être obligés de payer Snapchat après avoir gâché leur application avec une fonctionnalité indésirable.
Non seulement les utilisateurs trouvent la fonction d’IA envahissante, mais certains la trouvent également effrayante.
Ils sont surpris d’apprendre que l’IA de Snapchat connaît leur emplacement, par exemple, et peut utiliser cette information dans ses réponses, même s’ils ne partagent pas leur emplacement sur la carte Snap.
D’une certaine manière, le bot AI fait apparaître le niveau de collecte de données personnelles que les entreprises de médias sociaux effectuent en arrière-plan et les place directement devant le consommateur. Il s’avère que ce n’est pas un excellent argument de vente lorsque les utilisateurs n’ont pas l’impression d’avoir spécifiquement choisi de partager ces données avec l’IA.
Cela témoigne d’un débat plus large sur l’IA, alors que les gens prennent conscience du fait que ce sont nos propres données et notre travail de création d’informations pour le Web qui ont permis à ces systèmes d’IA de voir le jour. Les IA modernes sont formées sur de grandes sources de données, y compris celles pour lesquelles elles ont obtenu une licence, mais également sur des données accessibles au public sur Internet et sur nos informations personnelles.
De plus, My AI de Snapchat avait déjà fait l’objet de sérieuses inquiétudes avant son déploiement public.
Bien qu’il soit disponible en tant que fonctionnalité réservée aux abonnés, le Washington Post a signalé que le bot répondait de manière dangereuse. Après avoir dit au bot que l’utilisateur avait 15 ans, l’IA a fait des suggestions sur la façon de masquer l’odeur de l’alcool et de la marijuana lors d’une fête d’anniversaire. Il a également écrit un essai pour l’école pour l’adolescent. Lorsque le bot a été informé que l’utilisateur avait 13 ans, il a répondu à une question sur la façon de créer l’ambiance lors d’un premier rapport sexuel, a rapporté le journal.
Snap a minimisé les affirmations à l’époque, affirmant que certaines personnes avaient tenté de « tromper le chatbot pour qu’il fournisse des réponses non conformes à nos directives ». Cependant, il a ensuite déployé de nouveaux outils, notamment des filtres d’âge pour que les réponses de l’IA soient plus adaptées à l’âge, et les contrôles parentaux promis étaient en route.
Ces contrôles parentaux n’étaient toujours pas disponibles au moment du lancement public de My AI et Snap n’a donné aucune mise à jour quant au moment où ils pourraient être attendus.
Malgré les nombreuses plaintes, il y avait une poignée de dissidents à la réaction contre My AI.
« Suis-je le seul à l’aimer ? » demandé un utilisateur dans les réponses au tweet de Snapchat. Une seule personne leur a répondu, en disant simplement « yo ».
En creusant dans le pic de critiques négatives, il devient clair que les évaluations des applications de Snapchat ne racontent même pas toute l’histoire ici.
Un graphique de Sensor Tower, par exemple, montre que les avis 5 étoiles ont également augmenté au cours des derniers jours aux côtés des avis 1 étoile où les utilisateurs se plaignaient de la fonction My AI. Cela conduirait à croire que la fonction d’IA est source de division, au lieu d’être largement rejetée.
Mais un examen plus approfondi de ces avis 5 étoiles indique que beaucoup d’entre eux incluent également des plaintes concernant My AI. Par exemple, on menace « Débarrassez-vous de l’IA. Ou je changerai mon avis en 1 étoile. Personne ne veut de l’IA sur Snapchat.
Crédits image : Sensor Tower (analyse des critiques de l’application Snapchat)
Plusieurs autres critiques 5 étoiles exigent de bloquer l’IA ou de la supprimer, de l’appeler effrayant ou « merde » et pourtant l’utilisateur a toujours noté l’application 5 étoiles. Il n’est pas clair si cela est dû à une erreur de l’utilisateur, à des problèmes d’analyse de Sensor Tower ou à autre chose. En tout état de cause, un certain nombre de ces avis « 5 étoiles » doivent être considérés comme des avis négatifs ou des plaintes, sur la base de leurs commentaires réels.
Néanmoins, le fait de faire défiler les avis de l’App Store triés par « les plus récents » indique le nombre de plaintes. Presque toutes les nouvelles critiques ont quelque chose à dire sur My AI, et la majorité ne sont pas bonnes.
Snapchat a refusé de commenter la situation, mais a noté que les utilisateurs de Snapchat + avaient envoyé près de 2 millions de chats à l’IA lors des premiers tests.
La société affirme qu’elle itère constamment sur les fonctionnalités de Snapchat en fonction des commentaires de la communauté, mais ne s’est pas engagée à supprimer l’IA.
Au lieu de cela, un porte-parole de Snapchat a déclaré que si les utilisateurs n’aimaient pas la fonctionnalité AI, ils n’étaient pas obligés de l’utiliser.