La consultation du gouvernement fédéral sur l’IA générative est « étrange » et « secrète », selon les critiques

Contenu de l’article

OTTAWA — La consultation du gouvernement libéral sur un code de conduite pour les systèmes d’intelligence artificielle générative de type ChatGPT est trop précipitée et pas assez publique ou transparente, selon les critiques.

« Il s’agit d’une sorte de consultation très étrange », a déclaré Teresa Scassa, titulaire d’une chaire de recherche du Canada et professeure de droit à l’Université d’Ottawa, spécialisée dans l’intelligence artificielle (IA) et la vie privée.

Contenu de l’article

Contenu de l’article

Le public a pris connaissance de la consultation pour la première fois à la mi-août, lorsque le gouvernement a accidentellement publié un avis en ligne plus tôt. Innovation Canada a ensuite publié plus de détails sur le code volontaire destiné aux entreprises canadiennes développant des systèmes d’IA générative.

Les experts ont exhorté les gouvernements à réglementer la technologie en croissance exponentielle et probablement transformatrice, qui peut être utilisée pour générer des textes écrits, des photos, des vidéos ou du code.

Le code de bonnes pratiques volontaire obligerait les entreprises à empêcher toute utilisation malveillante et nuisible de leurs systèmes, à prendre des mesures pour atténuer le risque de résultats biaisés et à garantir que les systèmes d’IA ne peuvent pas être confondus avec des humains, entre autres mesures. Il serait en place avant que le projet de loi C-27, une loi sur la protection de la vie privée comportant un élément d’IA appelée Loi sur l’intelligence artificielle et les données (AIDA), ne devienne loi.

Le gouvernement organise des tables rondes avec des experts, la société civile et l’industrie. La consultation a débuté le 4 août et se terminera le 14 septembre, selon l’avis en ligne.

« Il s’agit d’une consultation très courte. Cela vient tout juste d’être rendu public. Les tables rondes sont… sur invitation uniquement », a noté Scassa. Cela signifie que le processus ne répond pas aux objectifs clés d’une consultation, tels que la transparence, l’engagement démocratique et l’éducation du public, a-t-elle déclaré.

Contenu de l’article

Les consultations au cours desquelles les parties prenantes et les experts soumettent des commentaires accessibles au public peuvent révéler de graves problèmes liés à la législation ou à l’action gouvernementale proposée. Dans le cas du projet de loi libéral sur les préjudices en ligne, les critiques généralisées ont amené le gouvernement à appuyer sur le bouton pause et à repenser complètement son approche du projet de loi.

Scassa a souligné que les consultations de l’Union européenne sur sa loi sur l’IA « ont été très publiques, et il y a eu énormément de débats, de discussions et d’engagement à ce sujet ».

Lorsqu’on lui a demandé si le gouvernement envisageait de rendre la consultation publique, Audrey Champoux, porte-parole du ministre de l’Innovation François-Philippe Champagne, a déclaré : « Les responsables d’ISDE ont commencé à mener une brève consultation… avec des dizaines d’experts en IA, notamment du milieu universitaire, de l’industrie et de la société civile. société. »

Elle a déclaré qu’une fois ce processus terminé, « un bref résumé de la consultation sera partagé parallèlement ou peu après le produit final ».

Contenu de l’article

La députée conservatrice Michelle Rempel Garner a déclaré que la consultation « s’est déroulée en grande partie à huis clos, sans la contribution du Parlement ou d’un comité parlementaire officiel ». Comparativement aux progrès réalisés par l’Union européenne dans la réglementation de l’espace de l’IA, « nous nous trouvons ici avec ce genre de processus très secret et très opaque ».

Rempel Garner a fondé un caucus multipartite de sénateurs et de députés qui passent l’été à se renseigner sur la technologie de l’IA, dans le but d’être mieux équipés pour naviguer dans la réglementation de l’IA à la rentrée parlementaire à l’automne. Elle a déclaré qu’il y avait « un grand intérêt multipartite pour bien faire les choses ».

Rempel Garner s’inquiète également de la brièveté du processus de consultation. « Je pense que c’est probablement cuit et qu’il ne s’agit pas d’une consultation significative, ce qui est préoccupant. »

Scassa a critiqué le contenu du code volontaire, notamment en affirmant que le langage utilisé par le « petit document le plus fragile » n’est pas assez fort, n’utilisant même pas le mot « devrait ».

Scassa a déclaré que « le fait qu’ils utilisent le terme « serait » tout au long me suggère qu’ils avancent avec tant de prudence et de prudence sur ce sujet que cela n’aura que très peu d’impact.

Contenu de l’article

Elle a souligné que le gouvernement n’avait pas non plus mené de consultations sur le projet de loi C-27, mais qu’il avait promis de le faire sur les règlements qui en résulteraient. Le gouvernement pourrait se montrer prudent quant à « établir des obligations plus normatives » avant ces consultations, ou avant que la législation ne soit effectivement en place, a suggéré Scassa. « Alors ils font quelque chose d’un peu vague et sans forme. Mais ils sont les auteurs de leur propre malheur.»

Ignacio Cofone, titulaire de la Chaire de recherche du Canada sur le droit de l’intelligence artificielle et la gouvernance des données à l’Université McGill, a déclaré que la mise en place d’une réglementation est « de loin supérieure » aux codes de conduite volontaires.

« Les codes de conduite reposent sur l’autorégulation, ils manquent donc de mordant et ont moins de capacité à limiter les préjudices potentiels. Les réglementations qui établissent des lignes directrices claires, des obligations juridiques et des conséquences garantissent une base de comportement éthique et de normes de sécurité », a-t-il déclaré.

Rempel Garner a déclaré qu’elle ne comprenait pas pourquoi le gouvernement « ne profite pas de l’occasion pour engager le pays de manière plus constructive sur une question d’une telle ampleur ».

« On a l’impression qu’ils essaient simplement de cocher une case au lieu d’adopter une approche significative et intelligente face à l’un des plus grands problèmes émergents auxquels l’humanité a été confrontée de mémoire récente. »

Notre site Web est l’endroit idéal pour les dernières nouvelles, les scoops exclusifs, les lectures longues et les commentaires provocateurs. Veuillez ajouter nationalpost.com à vos favoris et vous inscrire à notre newsletter politique, Première lecture, ici.

Contenu de l’article