Le gouvernement fédéral a utilisé l’IA dans des centaines d’initiatives, selon une nouvelle base de données de recherche

Contenu de l’article

OTTAWA — Le gouvernement fédéral du Canada a utilisé l’intelligence artificielle dans près de 300 projets et initiatives, selon une nouvelle étude, notamment pour aider à prédire l’issue des affaires fiscales, trier les demandes de visa temporaire et promouvoir la diversité dans l’embauche.

Contenu de l’article

Joanna Redden, professeure agrégée à l’Université Western, a reconstitué la base de données à l’aide de reportages, de documents déposés au Parlement et de demandes d’accès à l’information.

Contenu de l’article

Sur les 303 outils automatisés répertoriés mercredi, 95 pour cent étaient utilisés par des agences du gouvernement fédéral.

« Il doit y avoir beaucoup plus de débat public sur les types de systèmes qui devraient être utilisés, et il doit y avoir davantage d’informations publiques disponibles sur la manière dont ces systèmes sont utilisés », a déclaré Redden dans une interview.

Elle a fait valoir que les données révèlent un problème avec la loi sur l’intelligence artificielle et les données proposée par le gouvernement libéral, le premier projet de loi fédéral spécifiquement destiné à l’IA.

« Ce projet de loi ne s’appliquera pas, pour la plupart, aux utilisations gouvernementales de l’IA. Le grand nombre d’applications que nous avons identifiées démontre donc à quel point il s’agit d’un problème.

Contenu de l’article

Le projet de loi C-27 introduirait de nouvelles obligations pour les systèmes « à fort impact », comme l’utilisation de l’IA dans l’emploi. C’est quelque chose que le ministère de la Défense nationale a expérimenté lorsqu’il a utilisé l’IA pour réduire les préjugés dans les décisions d’embauche, dans le cadre d’un programme qui a pris fin en mars 2021.

Un porte-parole a déclaré que le département utilisait une plate-forme pour présélectionner les candidats à interviewer, et une autre pour évaluer « la personnalité, les capacités cognitives et le sens social » d’un individu et les associer à des profils. Les candidats ont donné leur consentement explicite et les données ont éclairé la prise de décision humaine.

Immigration, Réfugiés et Citoyenneté Canada a déclaré que deux projets pilotes de 2018 visant à aider les agents à trier les demandes de visa de résident temporaire sont devenus permanents. Le ministère utilise « des outils d’intelligence artificielle pour trier les candidatures et déterminer l’éligibilité positive ».

Contenu de l’article

Contenu de l’article

Le registre indique également que le ministère utilise l’IA pour examiner les demandes de permis d’études déposées par des personnes d’autres pays, bien qu’un porte-parole ait déclaré qu’il n’utilise pas l’IA pour la « prise de décision finale ».

Les systèmes automatisés du ministère ne peuvent pas rejeter une demande ou recommander un rejet, a déclaré le porte-parole.

Toutes les expériences ne deviennent pas des initiatives permanentes.

L’Agence de la santé publique du Canada a déclaré avoir abandonné un projet analysant les informations accessibles au public sur les réseaux sociaux pour rechercher les signes avant-coureurs de suicide, en raison de facteurs tels que le coût et les « méthodologies ».

Santé Canada, de son côté, continue d’utiliser un outil d’écoute sociale doté d’un « composant d’IA rudimentaire » pour rechercher dans les actualités en ligne des mentions d’incidents liés à un produit de consommation, a déclaré un porte-parole.

Contenu de l’article

Certaines expériences seraient familières aux Canadiens : la Marine royale canadienne, par exemple, a testé un système similaire à Siri d’Apple ou Alexa d’Amazon pour transmettre verbalement des commandes aux navires.

Un porte-parole a déclaré que les efforts visant à intégrer la technologie à commande vocale dans les navires de guerre se poursuivent, mais que « les problèmes de sécurité de l’information » doivent être « pris en compte avant qu’une telle technologie puisse être utilisée ».

L’IA est également mise au service de la recherche et des prédictions juridiques.

L’Agence du revenu du Canada a déclaré qu’elle utilise un système qui permet aux utilisateurs de saisir des variables liées à une affaire qui « fourniront un résultat anticipé en utilisant des analyses pour prédire comment un tribunal statuerait probablement dans un scénario spécifique, en fonction de la pertinence et des décisions judiciaires historiques. »

Contenu de l’article

Et les Instituts de recherche en santé du Canada utilisent un logiciel de décision en matière de relations de travail. Il compare une situation spécifique à des cas précédents et simule la manière dont différents faits pourraient affecter le résultat, souligne le registre.

Au Bureau du surintendant des faillites, AI signale des anomalies dans les dossiers de succession.

Un porte-parole a déclaré que le système détecte « la non-conformité potentielle du débiteur sur la base des attributs clés trouvés dans les dossiers d’insolvabilité ». Les cas signalés par le système sont évalués par des analystes.

Le registre comprend également des exemples d’IA utilisée par la GRC. Un porte-parole a confirmé que la GRC avait utilisé l’IA pour identifier le matériel d’agression sexuelle sur des enfants et pour aider à secourir les victimes.

Un « type de technologie de reconnaissance faciale appelé « face matching » a été utilisé sur des données internes obtenues légalement, a déclaré le porte-parole.

Contenu de l’article

La reconnaissance faciale est également utilisée par l’Agence des services frontaliers du Canada. Un porte-parole a déclaré que l’agence utilise cette technologie sur une base volontaire pour « aider à authentifier l’identité des voyageurs entrants » via les kiosques de certains aéroports.

Redden a déclaré qu’il y avait de nombreuses raisons de poser des questions sur la reconnaissance faciale, y compris des exemples aux États-Unis où elle a conduit à des arrestations injustifiées.

De manière plus générale, elle a fait valoir que le gouvernement devrait mieux suivre ses propres utilisations de l’IA.

Le gouvernement fédéral a déclaré que dans les cas où l’utilisation de l’IA « peut avoir des impacts significatifs », par exemple en aidant à prendre des décisions administratives, sa directive sur la prise de décision automatisée exige une évaluation d’impact algorithmique.

Contenu de l’article

Ces évaluations sont ensuite publiées dans un registre public, a indiqué le Conseil du Trésor dans un courriel.

Le registre ne compte actuellement que 18 entrées.

Lorsqu’on lui a demandé pourquoi ce nombre est bien inférieur au total de Redden, un porte-parole a déclaré que la directive et le registre sont « spécifiquement axés sur les utilisations de l’IA ayant un impact direct sur les individus ou les entreprises ». De nombreuses applications de l’IA au sein du gouvernement fédéral ne rentrent pas dans cette catégorie.»

Un exemple : la technologie utilisée pour garder un œil sur la nature.

L’Agence canadienne d’inspection des aliments utilise l’apprentissage automatique pour suivre les plantes, insectes et mollusques envahissants, souligne le registre.

Un porte-parole a déclaré que l’agence utilise un outil d’IA pour analyser un réseau social en collectant des observations de plantes et d’animaux. Pêches et Océans Canada affirme utiliser l’IA pour « détecter les mammifères marins à partir d’images aériennes, de drones et de satellites ».

Contenu de l’article

Il a fallu deux ans à Redden, avec de l’aide, pour compiler les données basées sur des informations limitées provenant de diverses sources.

Souvent, les informations disponibles n’indiquent pas quand un système d’IA a été introduit ni pourquoi, s’il est toujours en place, quelles données sont utilisées ou s’il y a eu des problèmes avec le système, a-t-elle déclaré.

« Il est très difficile pour ceux qui vivent à l’extérieur de faire ce genre de travail. »

On ne sait pas exactement ce qui est arrivé à certains des projets pilotes documentés par Redden.

Un document de janvier 2023 déposé au Parlement montre que l’Agence des services frontaliers du Canada a déclaré qu’elle développait un algorithme pour que les rayons X postaux détectent automatiquement les armes à feu et leurs pièces, tandis qu’Affaires mondiales Canada expérimentait des notes d’information générées par l’IA.

Affaires mondiales n’a pas répondu à une demande de renseignements supplémentaires et l’ASFC a refusé de fournir une mise à jour sur ces efforts.

« Bien que nous puissions vous dire que l’ASFC suit actuellement de près le développement d’algorithmes d’apprentissage automatique pour les rayons X afin de détecter automatiquement les éléments d’intérêt, nous ne divulguons pas de détails sur le ciblage, l’application de la loi ou les renseignements spécifiques, car cela pourrait les rendre inefficaces. » a déclaré l’agence.

Ce que le registre démontre, a déclaré Redden, c’est « à quel point l’utilisation de l’IA est répandue dans les organismes gouvernementaux au Canada » – et à quel point nous en savons peu sur cette utilisation.

Contenu de l’article