Le gouvernement va « donner la priorité » à la réglementation de l’IA générative et présente ses plans pour un code de conduite volontaire

0

OTTAWA — Un code de conduite volontaire pour les systèmes d’intelligence artificielle que le gouvernement libéral est en train d’élaborer exigerait que les entreprises canadiennes derrière l’IA générative empêchent toute utilisation malveillante et nuisible.

Cela signifie que les développeurs devraient prendre des mesures pour empêcher que leurs systèmes soient utilisés pour usurper l’identité de personnes réelles, mener des cyberattaques visant à tromper les individus pour obtenir des informations confidentielles ou donner des conseils juridiques ou médicaux, a souligné le gouvernement dans un document.

Innovation Canada consulte cet été des experts, la société civile et l’industrie sur un code de conduite volontaire pour l’IA générative. Il a publié mercredi un document décrivant ses projets concernant le code, après que la consultation soit devenue publique suite à une publication accidentelle en ligne.

Le code volontaire serait en place avant que le projet de loi C-27, une loi sur la protection de la vie privée comportant un élément d’IA appelée Loi sur l’intelligence artificielle et les données (AIDA), ne devienne loi. Une fois que cela se produira, le gouvernement « a l’intention de donner la priorité à la réglementation des systèmes d’IA générative », a déclaré Innovation Canada.

Les experts réclament une réglementation gouvernementale depuis l’émergence de systèmes d’IA générative comme ChatGPT au cours des neuf derniers mois. La technologie en croissance exponentielle, qui peut être utilisée pour générer du texte écrit, des photos, des vidéos ou du code, a le potentiel de transformer les emplois et les industries – et d’être utilisée à mauvais escient et de causer des dommages.

Le projet de loi C-27 progressera dans le processus législatif une fois que la Chambre des communes se réunira à nouveau à l’automne, mais les critiques ont souligné que le projet de loi est antérieur à l’IA générative et que cela signifie qu’il pourrait déjà être obsolète.

Dans le document publié mercredi, Innovation Canada a déclaré que le projet de loi était conçu « pour être adaptable aux nouveaux développements des technologies de l’IA » et fournirait le « fondement juridique » pour réglementer l’IA générative.

Entre-temps, le gouvernement entend que son code volontaire soit « suffisamment robuste pour garantir que les développeurs, les déployeurs et les opérateurs de systèmes d’IA générative soient en mesure d’éviter les impacts néfastes, d’instaurer la confiance dans leurs systèmes et d’effectuer une transition en douceur vers la conformité aux prochaines réglementations du Canada. régime. »

L’une des principales critiques adressées à la technologie de l’IA ces dernières années concerne sa tendance à perpétuer des biais dans les données qu’elle alimente à des fins de formation, ce qui entraîne, par exemple, des résultats racistes. Dans le cadre du code volontaire proposé par le gouvernement, les développeurs devraient examiner leurs ensembles de données pour éviter « les données de mauvaise qualité et les ensembles de données/biais non représentatifs » et prendre des mesures pour atténuer le risque de résultats biaisés.

Ils devraient également garantir que les systèmes d’IA sont identifiés afin qu’ils ne puissent pas être confondus avec des humains, fournir une méthode disponible gratuitement pour détecter le contenu de l’IA et assurer la surveillance humaine ainsi que la sécurité de leurs systèmes, entre autres mesures.

Source link-46