Ottawa est la dernière ville à se tourner vers l’IA pour prédire l’itinérance chronique

Contenu de l’article

OTTAWA — Quel âge avez-vous? Quel est votre sexe? Êtes-vous autochtone? Êtes-vous citoyen canadien? Avez-vous une famille?

Contenu de l’article

Ce ne sont là que quelques-uns des points de données qu’un nouveau système d’intelligence artificielle utilisera pour déterminer si une personne risque de devenir sans-abri de façon chronique à Ottawa, grâce à une équipe avec un chercheur de l’Université Carleton.

La capitale nationale n’est pas la première municipalité à utiliser cette technologie émergente comme outil pour atténuer une crise qui s’aggrave. London, en Ontario, a déjà été le pionnier d’un projet similaire, tandis qu’en Californie, Los Angeles a lancé une initiative qui identifie les personnes risquant de devenir sans-abri.

Alors que les villes se tournent de plus en plus vers l’IA, certains défenseurs de cette technologie s’inquiètent des atteintes à la vie privée et des préjugés. Mais les promoteurs du projet insistent sur le fait qu’il ne s’agit que d’un outil parmi d’autres pour aider à déterminer qui pourrait avoir besoin d’aide.

Le chercheur qui développe le projet d’Ottawa, Majid Komeili, a déclaré que le système utilise des données personnelles telles que l’âge, le sexe, le statut autochtone, le statut de citoyenneté et le fait que la personne ait ou non une famille dans son dossier.

Contenu de l’article

Il examine également des facteurs tels que le nombre de fois où un service leur a été refusé dans un refuge et les raisons pour lesquelles ils ont reçu un service.

Le système utilisera également des données externes telles que des informations sur la météo et des indicateurs économiques comme l’indice des prix à la consommation et le taux de chômage. Komeili a déclaré que le système prédira combien de nuits la personne passera dans un refuge dans six mois.

« Ce sera un outil dans la boîte à outils des prestataires de services, garantissant que personne ne passe entre les mailles du filet à cause d’une erreur humaine. Le décideur final restera un humain », a-t-il déclaré dans un courriel.

Ces informations sont disponibles en premier lieu parce que les gens sont déjà « hautement suivis » afin de recevoir divers avantages ou traitements, a fait valoir Renee Sieber, professeure agrégée de l’Université McGill.

Contenu de l’article

Contenu de l’article

« Les sans-abri sont malheureusement extrêmement surveillés et les données sont très intrusives », a déclaré Sieber.

Les données peuvent inclure des détails sur les rendez-vous médicaux, les toxicomanies, les rechutes et le statut VIH.

Selon M. Sieber, il est important de se demander si l’IA est vraiment nécessaire. « En savez-vous plus sur le sans-abrisme chronique grâce à l’IA qu’avec une feuille de calcul ? »

Ce n’était qu’une question de temps avant qu’AI ne s’implique, a suggéré Tim Richter, président de l’Alliance canadienne pour mettre fin à l’itinérance.

Bien qu’ils ne soient pas très répandus, ces outils « peuvent probablement, dans une certaine mesure, anticiper les personnes les plus susceptibles de se retrouver sans domicile fixe ou sans domicile fixe chronique », a-t-il déclaré. « Utiliser l’IA pour y parvenir pourrait être très utile pour cibler les interventions sur les personnes. »

Contenu de l’article

La plupart des endroits ne disposent pas de données suffisamment fiables pour mettre en place de tels systèmes, a déclaré Richter.

Son organisation travaille avec des villes de tout le pays, dont London et Ottawa, pour aider à recueillir de meilleures informations « en temps réel et spécifiques à chaque personne » — « d’une manière qui protège leur vie privée ».

L’itinérance chronique signifie qu’une personne est sans abri depuis plus de six mois ou a connu des épisodes répétés d’itinérance au cours de cette période.

Alors que 85 % des personnes se retrouvent rapidement sans abri, environ 15 à 20 % d’entre elles « restent coincées », a déclaré Richter.

Les systèmes d’IA devraient être capables de faire leur travail et de signaler les individus à risque en examinant les données agrégées au niveau de la communauté et sans connaître l’identité spécifique de l’individu concerné, a déclaré Richter.

Contenu de l’article

C’est l’approche adoptée par le projet d’Ottawa. Les informations identifiables comme les noms et les coordonnées sont remplacées par des codes.

« Il existe une liste principale qui inclut les liens entre les codes d’identification et les identités des utilisateurs. La formation et les tests de l’IA fonctionnent uniquement sur l’ensemble de données codées. La liste principale est stockée séparément sur un serveur sécurisé à accès restreint », a expliqué Komeili.

Il a noté que le système utilise des données qui ont déjà été collectées au cours des années précédentes et qui ne sont pas spécifiquement collectées pour être utilisées par l’IA.

Vinh Nguyen, gestionnaire des politiques sociales, de la recherche et de l’analyse de la Ville d’Ottawa, a déclaré dans un communiqué que tout partage de données collectées par la ville « fait l’objet d’un examen et d’un contrôle internes rigoureux ».

Contenu de l’article

« Les données que nous partageons sont souvent agrégées et lorsque cela n’est pas possible, toutes les informations identifiables sont supprimées pour garantir le strict anonymat des utilisateurs », a-t-il déclaré, ajoutant que les collaborations avec des universitaires doivent être examinées par un comité d’éthique avant que le travail sur les données n’ait lieu.

Nguyen a déclaré que la ville effectue actuellement des « tests et une validation internes » et prévoit de consulter le secteur des refuges et les clients avant de mettre en œuvre le modèle, les consultations étant prévues pour la fin de l’automne.

Alina Turner, cofondatrice de HelpSeeker, une entreprise qui utilise l’IA dans des produits traitant de questions sociales, a déclaré que les « super pouvoirs » de l’IA peuvent être utiles lorsqu’il s’agit d’analyser en profondeur les facteurs et les tendances qui alimentent le sans-abrisme.

Mais son entreprise a fait le choix conscient de ne pas prévoir les risques au niveau individuel, a-t-elle déclaré.

Contenu de l’article

« On peut s’attirer de nombreux problèmes avec ce biais », a-t-elle déclaré, notant que les données varient selon les communautés et que « le biais racial de ces données constitue également un défi majeur ».

L’un des problèmes de l’IA, reconnu depuis longtemps, est que la qualité de ses analyses dépend des données qui lui sont transmises. Cela signifie que lorsque les données proviennent d’une société où le racisme systémique est intégré dans ses systèmes, les prédictions de l’IA peuvent le perpétuer.

Par exemple, en raison de facteurs systémiques, les personnes autochtones courent un risque plus élevé de se retrouver sans abri.

Cependant, si un système d’IA devait attribuer automatiquement un score plus élevé à une personne entrant dans un refuge et s’identifiant comme autochtone, « il y aurait de nombreux problèmes éthiques à adopter cette approche », a soutenu Turner.

Komeili, le chercheur d’Ottawa, a déclaré que les préjugés sont un « problème connu avec des produits similaires alimentés par l’IA ». Il a noté que les humains ont eux aussi des préjugés et que différentes personnes peuvent faire des recommandations différentes.

Contenu de l’article

« L’un des avantages d’une approche basée sur l’IA est que, lorsqu’elle est utilisée comme outil d’assistance dans la boîte à outils des experts humains, elle peut les aider à converger vers une approche standard. Un tel outil d’assistance permet aux experts humains d’éviter de manquer des détails importants et peut réduire le risque d’erreurs humaines. »

Luke Stark, professeur adjoint à l’Université Western, travaille sur un projet étudiant l’utilisation des données et de l’IA pour la politique de lutte contre l’itinérance au Canada, y compris l’initiative d’IA existante à London, en Ontario.

Il a déclaré qu’un autre problème auquel les décideurs humains doivent réfléchir est la façon dont les prévisions peuvent faire en sorte que certains segments de la population sans-abri soient oubliés.

Les femmes sont plus susceptibles d’éviter les refuges pour des raisons de sécurité et sont plus susceptibles de se tourner vers des options telles que le couch surfing, a-t-il noté.

Un système d’IA utilisant les données du système d’hébergement se concentrera sur « le type de personne qui utilise déjà le système d’hébergement… et cela laisse de côté tout un tas de personnes ».

Stark a décrit les systèmes prédictifs comme la dernière technologie qui risque de masquer les causes profondes du sans-abrisme.

« L’une de nos préoccupations est que toute cette attention portée à ces solutions basées sur le triage enlève ensuite la pression sur les décideurs politiques pour qu’ils examinent réellement les causes structurelles du sans-abrisme qui existent en premier lieu », a-t-il déclaré.

Comme l’a dit Richter : « En fin de compte, la clé pour mettre fin au sans-abrisme est le logement. »

Contenu de l’article