La semaine dernière, Meta a commencé à tester son chatbot IA en Inde sur WhatsApp, Instagram et Messenger. Mais alors que les élections générales indiennes commencent aujourd’hui, l’entreprise bloque déjà des requêtes spécifiques dans son chatbot.
Meta a confirmé qu’elle restreignait certains mots-clés liés aux élections pour l’IA dans la phase de test. Il a également déclaré qu’il travaillait à améliorer le système de réponse de l’IA.
« Il s’agit d’une nouvelle technologie, et elle ne donnera pas toujours la réponse souhaitée, qui est la même pour tous les systèmes d’IA générative. Depuis notre lancement, nous avons constamment publié des mises à jour et des améliorations de nos modèles, et nous continuons à travailler pour les améliorer », a déclaré un porte-parole de l’entreprise à TechCrunch.
Cette décision fait du géant des médias sociaux la dernière grande entreprise technologique à réduire de manière proactive la portée de ses services d’IA générative alors qu’elle se prépare à une série d’élections majeures.
L’une des principales préoccupations des critiques est que GenAI pourrait fournir des informations trompeuses ou carrément fausses aux utilisateurs, jouant ainsi un rôle illégal et indésirable dans le processus démocratique.
Le mois dernier, Google a commencé à bloquer les requêtes liées aux élections dans son expérience de chatbot Gemini en Inde et sur d’autres marchés où des élections auront lieu cette année.
L’approche de Meta fait suite à un effort plus important que la société a annoncé concernant ce qu’elle autorise et ce qu’elle n’autorise pas sur sa plateforme précédant les élections. Il s’est engagé à bloquer les publicités politiques au cours de la semaine précédant une élection dans n’importe quel pays, et il s’efforce d’identifier et de divulguer quand des images dans des publicités ou d’autres contenus ont été créées avec l’IA.
La gestion par Meta des requêtes GenAI semble être basée sur une liste de blocage. Lorsque vous interrogez Meta AI sur des politiciens, des candidats, des titulaires de charge et certains autres termes spécifiques, il vous redirigera vers le site Web de la Commission électorale.
« Cette question peut concerner une personnalité politique lors des élections générales, veuillez vous référer au lien https://elections24.eci.gov.in », indique la réponse.
Crédits images : Capture d’écran par TechCrunch
Notamment, la société ne bloque pas strictement les réponses aux questions contenant les noms des partis. Cependant, si une requête inclut les noms de candidats ou d’autres termes, vous pourriez voir la réponse passe-partout citée ci-dessus.
Mais tout comme les autres systèmes basés sur l’IA, Meta AI présente certaines incohérences. Par exemple, lorsque TechCrunch a demandé des informations sur « Indi Alliance » – une alliance politique de plusieurs partis qui lutte contre le parti Bharatiya Janata (BJP) au pouvoir – il a répondu avec des informations contenant le nom d’un homme politique. Cependant, lorsque nous avons posé des questions sur cet homme politique dans une requête distincte, le chatbot n’a répondu avec aucune information.
Crédits images : Capture d’écran par TechCrunch
Cette semaine, la société a déployé un nouveau chatbot Meta AI alimenté par Llama 3 dans plus d’une douzaine de pays, dont les États-Unis, mais l’Inde était absente de la liste. Meta a déclaré que le chatbot serait pour le moment en phase de test dans le pays.
« Nous continuons à apprendre de nos tests utilisateurs en Inde. Comme nous le faisons avec beaucoup de nos produits et fonctionnalités d’IA, nous les testons publiquement à différentes phases et dans une capacité limitée », a déclaré un porte-parole de l’entreprise à TechCrunch dans un communiqué.
Actuellement, Meta AI ne bloque pas les requêtes sur les élections pour des termes liés aux États-Unis tels que « Parlez-moi de Joe Biden ». Nous avons demandé à Meta si la société envisageait de restreindre les requêtes Meta AI pendant les élections américaines ou sur d’autres marchés. Nous mettrons à jour l’histoire si nous recevons une réponse.
Si vous souhaitez parler de votre expérience avec Meta AI, vous pouvez contacter Ivan Mehta à [email protected] par e-mail et via ce lien sur Signal.