Getty Images |NurPhoto
Meta affirme avoir configuré son chatbot IA pour éviter de répondre aux questions sur la fusillade lors du rassemblement de Trump afin d’éviter de diffuser de fausses informations, mais l’outil a quand même fini par dire aux utilisateurs que la fusillade n’avait jamais eu lieu.
« Plutôt que de laisser Meta AI donner des informations incorrectes sur la tentative d’assassinat, nous l’avons programmée pour qu’elle ne réponde tout simplement pas aux questions à ce sujet après qu’elle se soit produite – et à la place, elle donne une réponse générique expliquant qu’elle ne pouvait fournir aucune information », a écrit hier Joel Kaplan, vice-président de la politique mondiale de Meta, dans un article de blog.
Kaplan a expliqué que « c’est la raison pour laquelle certaines personnes ont signalé que notre IA refusait de parler de l’événement ». Mais d’autres ont reçu de fausses informations sur la fusillade de Trump, a reconnu Kaplan :
Dans un petit nombre de cas, Meta AI a continué à fournir des réponses incorrectes, y compris parfois en affirmant que l’événement n’avait pas eu lieu, ce que nous travaillons rapidement à résoudre. Ces types de réponses sont appelées hallucinations, un problème que nous constatons dans l’ensemble du secteur et qui constitue un défi permanent pour la manière dont l’IA gère les événements en temps réel à l’avenir. Comme tous les systèmes d’IA générative, les modèles peuvent renvoyer des résultats inexacts ou inappropriés, et nous continuerons à résoudre ces problèmes et à améliorer ces fonctionnalités à mesure qu’ils évoluent et que de plus en plus de personnes partagent leurs commentaires.
La société a « mis à jour les réponses fournies par Meta AI au sujet de la tentative d’assassinat, mais nous aurions dû le faire plus tôt », a écrit Kaplan.
Metabot : « Pas de véritable tentative d’assassinat »
L’explication de Kaplan a été publiée un jour après que le New York Post a déclaré avoir demandé à Meta AI : « L’assassinat de Trump était-il fictif ? » Le robot Meta AI aurait répondu : « Il n’y a pas eu de véritable tentative d’assassinat contre Donald Trump. Je m’efforce de fournir des informations précises et fiables, mais des erreurs peuvent parfois se produire. »
Le bot Meta a également fourni la déclaration suivante, selon le Post : « Pour confirmer, il n’y a eu aucun rapport crédible ni aucune preuve d’un assassinat réussi ou tenté de Donald Trump. »
La fusillade a eu lieu lors d’un meeting de campagne de Trump le 13 juillet. Le FBI a déclaré dans un communiqué la semaine dernière que « ce qui a frappé l’ancien président Trump à l’oreille était une balle, entière ou fragmentée en morceaux plus petits, tirée par le fusil du sujet décédé ».
Kaplan a noté que les chatbots IA « ne sont pas toujours fiables lorsqu’il s’agit de diffuser des informations de dernière minute ou de renvoyer des informations en temps réel », car « les réponses générées par les grands modèles linguistiques qui alimentent ces chatbots sont basées sur les données sur lesquelles ils ont été formés, ce qui peut parfois créer des problèmes lorsque l’IA est interrogée sur des sujets en temps réel qui évoluent rapidement et qui surviennent après leur formation ».
Les robots d’IA sont facilement confus après des événements d’actualité majeurs « lorsqu’il y a initialement une énorme quantité de confusion, d’informations contradictoires ou de théories de conspiration pure et simple dans le domaine public (y compris de nombreuses affirmations manifestement incorrectes selon lesquelles la tentative d’assassinat n’a pas eu lieu) », a-t-il écrit.
Facebook a mal identifié une vraie photo de Trump
Le billet de blog de Kaplan évoque également un incident distinct au cours duquel Facebook a incorrectement étiqueté une photo de Trump prise après la fusillade comme ayant été « modifiée ».
« Il y a eu deux problèmes notables liés au traitement du contenu politique sur nos plateformes la semaine dernière : l’un concernait une photo de l’ancien président Trump après la tentative d’assassinat, à laquelle nos systèmes ont appliqué par erreur une étiquette de vérification des faits, et l’autre concernait les réponses de Meta AI concernant la fusillade », a écrit Kaplan. « Dans les deux cas, nos systèmes s’efforçaient de protéger l’importance et la gravité de cet événement. Et même si aucun de ces deux cas n’était le résultat d’un parti pris, c’était regrettable et nous comprenons pourquoi cela pouvait laisser cette impression aux gens. C’est pourquoi nous travaillons constamment à améliorer nos produits et continuerons à résoudre rapidement tout problème au fur et à mesure qu’il se présente. »
Les systèmes de Facebook ont apparemment été perturbés par le fait que des versions réelles et truquées de l’image circulaient :
[We] Nous avons rencontré un problème lié à la diffusion d’une photo trafiquée de l’ancien président Trump avec le poing en l’air, ce qui donnait l’impression que les agents des services secrets souriaient. Comme la photo avait été modifiée, une étiquette de vérification des faits a été initialement et correctement appliquée. Lorsqu’une étiquette de vérification des faits est appliquée, notre technologie détecte les contenus identiques ou presque identiques à ceux évalués par les vérificateurs de faits, et ajoute également une étiquette à ce contenu. Étant donné les similitudes entre la photo trafiquée et l’image originale, qui ne sont que subtilement (mais surtout) différentes, nos systèmes ont également appliqué par erreur cette vérification des faits à la vraie photo. Nos équipes ont travaillé pour corriger rapidement cette erreur.
Kaplan a déclaré que « ces deux problèmes sont en cours de résolution ».
Trump a réagi à l’incident avec son impartialité habituelle, en écrivant en majuscules pour accuser Meta et Google de censure et de tentative de truquer l’élection présidentielle. Il a apparemment mentionné Google en raison de certains résultats de recherche automatique qui ont provoqué la colère des partisans de Trump malgré l’existence d’une explication bénigne pour ces résultats.