L’Inde élabore des règles pour détecter et limiter la propagation des contenus deepfakes et d’autres médias nuisibles à l’IA, a déclaré jeudi un haut législateur, à la suite d’informations faisant état de la prolifération de tels contenus sur les plateformes de médias sociaux au cours des dernières semaines.
Ashwini Vaishnaw, le ministre indien de l’informatique, a déclaré que le ministère avait tenu des réunions avec toutes les grandes sociétés de médias sociaux, l’organisme industriel Nasscom et des universitaires plus tôt dans la journée et qu’il était parvenu à un consensus sur la nécessité d’une réglementation pour mieux lutter contre la propagation des vidéos deepfake ainsi que des applications qui faciliter leurs créations.
« Les entreprises partagent nos inquiétudes et elles ont compris que c’était [deepfakes] ne sont pas la liberté d’expression. Ils ont compris que c’était quelque chose de très nocif pour la société », a-t-il déclaré. « Ils ont compris la nécessité d’une réglementation beaucoup plus lourde à ce sujet, nous sommes donc d’accord sur le fait que nous commencerons à rédiger la réglementation dès aujourd’hui. »
Le ministère sera prêt à proposer des « éléments clairs et concrets » sur la manière de lutter contre les deepfakes dans 10 jours, a-t-il déclaré, ajoutant que New Delhi envisage également d’imposer une amende à ceux qui ne se conforment pas et de rendre des comptes aux personnes qui créent de telles vidéos. Les sociétés de médias sociaux organiseront une réunion de suivi avec le ministère début décembre sur cette question, a-t-il déclaré.
Les deepfakes sont des médias générés de manière synthétique, utilisant souvent l’IA, pour remplacer de manière réaliste l’image ou la voix d’une personne. Bien que parfois divertissantes, les préoccupations éthiques abondent concernant le consentement et la désinformation potentielle. La décision du ministère de l’informatique fait suite à l’expression par le Premier ministre indien Narendra Modi de ses inquiétudes concernant les vidéos deepfake la semaine dernière.
Le ministre indien de l’informatique avec des dirigeants de Meta, Google, Amazon et d’autres sociétés Crédits images : Bureau de presse de l’Inde
« Les deepfakes peuvent se propager beaucoup plus rapidement sans aucun contrôle et deviennent viraux quelques minutes après leur téléchargement. C’est pourquoi nous devons prendre des mesures très urgentes pour renforcer la confiance dans la société et protéger notre démocratie », a déclaré Vaishnaw lors d’une conférence de presse, où il a raconté un incident au cours duquel une vidéo deepfake présentait un éminent ministre indien appelant les citoyens à voter. pour le parti d’opposition.
La nouvelle réglementation se concentrera également sur le renforcement des mécanismes de signalement permettant aux individus de signaler de telles vidéos, ainsi que sur les actions proactives et opportunes des sociétés de médias sociaux, a déclaré Vaishnaw.
Les actions « doivent être plus proactives car les dégâts peuvent être très immédiats », a-t-il déclaré, ajoutant que même une action « quelques heures » après le signalement pourrait ne pas être suffisante.