Pour donner aux universitaires spécialisées dans l’IA et à d’autres leur temps bien mérité – et attendu – sous les projecteurs, TechCrunch lance une série d’entretiens axés sur des femmes remarquables qui ont contribué à la révolution de l’IA. Nous publierons plusieurs articles tout au long de l’année, à mesure que le boom de l’IA se poursuit, mettant en lumière des travaux clés qui restent souvent méconnus. Lisez plus de profils ici.
Brandie Nonnecke est le directeur fondateur du CITRIS Policy Lab, dont le siège est à l’UC Berkeley, qui soutient la recherche interdisciplinaire pour aborder les questions liées au rôle de la réglementation dans la promotion de l’innovation. Nonnecke codirige également le Berkeley Center for Law and Technology, où elle dirige des projets sur l’IA, les plateformes et la société, ainsi que l’UC Berkeley AI Policy Hub, une initiative visant à former des chercheurs à développer une gouvernance et des cadres politiques efficaces en matière d’IA.
Pendant son temps libre, Nonnecke anime une série de vidéos et de podcasts, TecHype, qui analyse les politiques, réglementations et lois technologiques émergentes, fournissant un aperçu des avantages et des risques et identifiant des stratégies pour exploiter la technologie à bon escient.
Questions et réponses
En bref, comment avez-vous débuté dans l’IA ? Qu’est-ce qui vous a attiré dans le domaine ?
Je travaille dans la gouvernance responsable de l’IA depuis près d’une décennie. Ma formation en technologie, en politiques publiques et leur intersection avec les impacts sociétaux m’a attiré vers ce domaine. L’IA est déjà omniprésente et a un impact profond dans nos vies – pour le meilleur et pour le pire. Il est important pour moi de contribuer de manière significative à la capacité de la société à exploiter cette technologie pour le bien plutôt que de rester à l’écart.
De quel travail êtes-vous le plus fier (dans le domaine de l’IA) ?
Je suis vraiment fier de deux choses que nous avons accomplies. Premièrement, l’Université de Californie a été la première université à établir des principes d’IA responsable et une structure de gouvernance pour mieux garantir un approvisionnement et une utilisation responsables de l’IA. Nous prenons au sérieux notre engagement à servir le public de manière responsable. J’ai eu l’honneur de coprésider le groupe de travail présidentiel de l’UC sur l’IA et son conseil permanent sur l’IA qui a suivi. Dans ces fonctions, j’ai pu acquérir une expérience directe en réfléchissant à la meilleure façon de mettre en œuvre nos principes d’IA responsable afin de protéger nos professeurs, notre personnel, nos étudiants et les communautés plus larges que nous servons. Deuxièmement, je pense qu’il est essentiel que le public comprenne les technologies émergentes ainsi que leurs avantages et risques réels. Nous avons lancé TecHype, une série de vidéos et de podcasts qui démystifie les technologies émergentes et fournit des conseils sur des interventions techniques et politiques efficaces.
Comment relever les défis d’un secteur technologique à prédominance masculine et, par extension, de celui de l’IA, à prédominance masculine ?
Soyez curieux, persévérant et ne vous laissez pas décourager par le syndrome de l’imposteur. J’ai trouvé crucial de rechercher des mentors qui soutiennent la diversité et l’inclusion, et d’offrir le même soutien aux autres personnes qui entrent dans ce domaine. Construire des communautés inclusives dans le domaine de la technologie a été un moyen puissant de partager des expériences, des conseils et des encouragements.
Quels conseils donneriez-vous aux femmes souhaitant se lancer dans le domaine de l’IA ?
Pour les femmes qui se lancent dans le domaine de l’IA, mon conseil est triple : recherchez sans relâche des connaissances, car l’IA est un domaine en évolution rapide. Adoptez le réseautage, car les connexions ouvriront des portes à des opportunités et offriront un soutien inestimable. Et défendez vos intérêts et ceux des autres, car votre voix est essentielle pour façonner un avenir inclusif et équitable pour l’IA. N’oubliez pas que vos perspectives et expériences uniques enrichissent le domaine et stimulent l’innovation.
Quels sont les problèmes les plus urgents auxquels l’IA est confrontée à mesure qu’elle évolue ?
Je pense que l’un des problèmes les plus urgents auxquels est confrontée l’IA à mesure qu’elle évolue est de ne pas s’attarder sur les derniers cycles de battage médiatique. Nous le constatons désormais avec l’IA générative. Bien sûr, l’IA générative présente des progrès significatifs et aura un impact considérable, bon et mauvais. Mais d’autres formes d’apprentissage automatique sont aujourd’hui utilisées pour prendre subrepticement des décisions qui affectent directement la capacité de chacun à exercer ses droits. Plutôt que de nous concentrer sur les dernières merveilles du machine learning, il est plus important de nous concentrer sur la manière et le lieu où le machine learning est appliqué, quelles que soient ses prouesses technologiques.
Quels sont les problèmes dont les utilisateurs d’IA devraient être conscients ?
Les utilisateurs d’IA doivent être conscients des problèmes liés à la confidentialité et à la sécurité des données, du potentiel de biais dans la prise de décision en matière d’IA et de l’importance de la transparence dans la manière dont les systèmes d’IA fonctionnent et prennent des décisions. Comprendre ces problèmes peut permettre aux utilisateurs d’exiger des systèmes d’IA plus responsables et plus équitables.
Quelle est la meilleure façon de développer l’IA de manière responsable ?
Construire l’IA de manière responsable implique d’intégrer des considérations éthiques à chaque étape du développement et du déploiement. Cela comprend l’engagement de diverses parties prenantes, des méthodologies transparentes, des stratégies de gestion des préjugés et des évaluations d’impact continues. Il est fondamental de donner la priorité au bien public et de garantir que les technologies d’IA soient développées dans le respect des droits de l’homme, de l’équité et de l’inclusivité.
Comment les investisseurs peuvent-ils mieux promouvoir une IA responsable ?
C’est une question tellement importante ! Pendant longtemps, nous n’avons jamais discuté expressément du rôle des investisseurs. Je ne saurais trop exprimer à quel point les investisseurs ont de l’impact ! Je pense que le cliché selon lequel « la réglementation étouffe l’innovation » est galvaudé et souvent faux. Au lieu de cela, je crois fermement que les petites entreprises peuvent bénéficier d’un avantage en matière d’innovation tardive et apprendre des grandes entreprises d’IA qui ont développé des pratiques d’IA responsables et des orientations émanant du monde universitaire, de la société civile et du gouvernement. Les investisseurs ont le pouvoir de façonner l’orientation du secteur en faisant des pratiques responsables en matière d’IA un facteur essentiel dans leurs décisions d’investissement. Cela implique de soutenir des initiatives visant à relever les défis sociaux grâce à l’IA, à promouvoir la diversité et l’inclusion au sein de la main-d’œuvre de l’IA et à plaider en faveur d’une gouvernance et de stratégies techniques solides qui contribuent à garantir que les technologies d’IA profitent à la société dans son ensemble.