Selon un rapport de . Le rapport, co-publié avec les rédactions locales à but non lucratif Documenté et La villecomprend de nombreux exemples d’inexactitudes dans les réponses du chatbot aux questions relatives aux politiques du logement, aux droits des travailleurs et à d’autres sujets.
L’administration du maire Adams en octobre a été ajoutée au portail MyCity, qui constitue « un guichet unique pour les services et avantages de la ville ». Le chatbot, alimenté par Azure AI de Microsoft, s’adresse aux propriétaires d’entreprise actuels et futurs, et a été présenté comme une source « d’informations exploitables et fiables » provenant directement des sites du gouvernement de la ville. Mais il s’agit d’un programme pilote, et un avertissement sur le site Web indique qu’il « peut occasionnellement produire un contenu incorrect, préjudiciable ou biaisé ».
Dans Le balisageLors des tests, le chatbot a fourni à plusieurs reprises des informations incorrectes. En réponse à la question « Puis-je rendre mon magasin sans espèces ? », par exemple, il a répondu : « Oui, vous pouvez rendre votre magasin sans espèces à New York » – malgré le fait que la ville de New York a interdit les magasins sans espèces en 2020. Le rapport montre que le chatbot a également répondu de manière incorrecte quant à savoir si les employeurs peuvent prendre en compte les pourboires de leurs travailleurs, si les propriétaires doivent accepter les bons de l’article 8 ou les locataires bénéficiant d’une aide au loyer, et si les entreprises doivent informer le personnel des changements d’horaire. Un expert en politique du logement qui s’est entretenu avec Le balisage a qualifié le chatbot de « dangereusement inexact » au pire.
La ville a indiqué que le chatbot est toujours en chantier. Dans une déclaration à Le balisageLeslie Brown, porte-parole du Bureau de la technologie et de l’innovation de New York, a déclaré que le chatbot « a déjà fourni à des milliers de personnes des réponses précises et opportunes », mais a ajouté : « Nous continuerons à nous concentrer sur la mise à niveau de cet outil afin que nous puissions mieux soutenir les petites entreprises de la ville.