Une réglementation urgente de l’intelligence artificielle est nécessaire, prévient Ottawa

Contenu de l’article

Le gouvernement fédéral doit agir de toute urgence pour réglementer l’intelligence artificielle, déclare un pionnier de l’IA, avertissant que la trajectoire actuelle de la technologie présente des risques sociétaux majeurs.

Yoshua Bengio, surnommé le « parrain » de l’IA, a déclaré lundi aux députés qu’Ottawa devrait mettre en place une loi immédiatement, même si cette législation n’est pas parfaite.

Contenu de l’article

Le directeur scientifique du Mila, l’Institut québécois d’IA, affirme qu’une intelligence « surhumaine » aussi intelligente qu’un être humain pourrait être développée au cours des deux prochaines décennies, voire des prochaines années.

Contenu de l’article

« Nous ne sommes pas prêts », a déclaré Bengio.

L’un des risques à court terme de l’IA est l’utilisation de vidéos deepfake pour diffuser de la désinformation, a-t-il déclaré. Ils utilisent l’IA pour donner l’impression qu’une personnalité publique dit quelque chose qu’elle n’a pas dit ou fait quelque chose qui ne s’est jamais produit.

La technologie peut également être utilisée pour interagir avec les gens par le biais de textes ou de dialogues « d’une manière qui peut tromper un utilisateur des médias sociaux et le faire changer d’avis sur des questions politiques », a déclaré Bengio.

« L’utilisation de l’IA à des fins politiques qui va à l’encontre des principes de notre démocratie suscite de réelles inquiétudes. »

Dans un an ou deux, on craint que des systèmes plus avancés puissent être utilisés pour des cyberattaques.

Les systèmes d’IA s’améliorent de plus en plus en matière de programmation.

« Lorsque ces systèmes deviendront suffisamment puissants pour vaincre nos cyberdéfenses actuelles et notre infrastructure numérique industrielle, nous serons en difficulté », a déclaré Bengio.

« Surtout si ces systèmes tombent entre de mauvaises mains. »

Contenu de l’article

Contenu de l’article

Le comité de l’industrie de la Chambre des communes, où Bengio a témoigné lundi, étudie un projet de loi du gouvernement libéral qui mettrait à jour la loi sur la protection de la vie privée et commencerait à réglementer certains systèmes d’intelligence artificielle.

Le projet de loi, tel qu’il est rédigé, donnerait au gouvernement le temps d’élaborer des réglementations, mais Bengio estime que certaines dispositions devraient entrer en vigueur immédiatement.

« Avec l’approche actuelle, il faudrait environ deux ans avant que l’application de la loi ne soit possible », a-t-il déclaré.

L’une des premières règles qu’il souhaite voir mises en œuvre est un registre qui exigerait que des systèmes dotés d’un niveau spécifié de capacité fassent rapport au gouvernement.

Bengio a déclaré que cela ferait peser la responsabilité et le coût de la démonstration de la sécurité sur les grandes entreprises technologiques développant ces systèmes, plutôt que sur les contribuables.

Le projet de loi C-27 a été rédigé pour la première fois en 2022 pour cibler ce que l’on appelle les systèmes d’IA « à fort impact ».

Bengio a déclaré que le gouvernement devrait modifier la définition de « à fort impact » dans la législation pour inclure les technologies qui posent des menaces à la sécurité nationale et à la société.

Cela pourrait inclure tous les systèmes d’IA que des acteurs malveillants pourraient utiliser pour concevoir des cyberattaques et des armes dangereuses, ou des systèmes qui trouvent des moyens de s’auto-répliquer malgré les instructions de programmation contraires.

Contenu de l’article

Des systèmes d’IA générative comme ChatGPT, capables de créer du texte, des images et des vidéos, sont apparus pour un usage public généralisé après l’introduction du projet de loi.

Le gouvernement dit qu’il prévoit modifier la loi pour tenir compte de cela.

Les libéraux affirment qu’ils visent à obliger les entreprises au-delà de ces systèmes à prendre des mesures garantissant que le contenu qu’elles créent est identifiable comme étant généré par l’IA.

Bengio a déclaré qu’il était « très important de couvrir les systèmes d’IA à usage général, car ce sont aussi ceux qui pourraient être les plus dangereux s’ils sont mal utilisés ».

Catherine Régis, professeure à l’Université de Montréal, a également déclaré lors de la réunion du comité lundi que le gouvernement doit agir de toute urgence, citant les récents « développements fulgurants dans le domaine de l’IA, que nous connaissons tous ».

S’exprimant en français, elle a souligné que la réglementation de l’IA est un effort mondial et que le Canada doit déterminer quoi faire au niveau national s’il veut avoir une voix.

« Des décisions seront prises à l’échelle mondiale et auront un impact sur tous les pays », a-t-elle déclaré.

Établir une vision claire et solide à l’échelle canadienne est « une des conditions essentielles pour jouer un rôle structurant et influent crédible dans la gouvernance mondiale ».

Notre site Web est l’endroit idéal pour les dernières nouvelles, les scoops exclusifs, les lectures longues et les commentaires provocateurs. Veuillez ajouter nationalpost.com à vos favoris et vous inscrire à notre newsletter quotidienne, Publié, ici.

Contenu de l’article