Pour donner aux universitaires spécialisées dans l’IA et à d’autres leur temps bien mérité – et attendu – sous les projecteurs, TechCrunch lance une série d’entretiens axés sur des femmes remarquables qui ont contribué à la révolution de l’IA. Nous publierons plusieurs articles tout au long de l’année, à mesure que le boom de l’IA se poursuit, mettant en lumière des travaux clés qui restent souvent méconnus. Lisez plus de profils ici.
Amba Kak est la directrice exécutive de l’AI Now Institute, où elle contribue à l’élaboration de recommandations politiques pour répondre aux préoccupations liées à l’IA. Elle a également été conseillère principale en IA à la Federal Trade Commission et a auparavant travaillé comme conseillère politique mondiale chez Mozilla et conseillère juridique auprès du régulateur indien des télécommunications sur la neutralité du net.
En bref, comment avez-vous débuté dans l’IA ? Qu’est-ce qui vous a attiré dans le domaine ?
Ce n’est pas une question simple car « IA » est un terme en vogue pour décrire des pratiques et des systèmes qui évoluent depuis longtemps ; Je travaille sur la politique technologique depuis plus d’une décennie et dans plusieurs régions du monde et j’ai été témoin de l’époque où tout était question de « big data », puis tout est devenu « IA ». Mais les questions fondamentales qui nous préoccupaient – l’impact des technologies et des économies basées sur les données sur la société – restent les mêmes.
J’ai été attiré par ces questions très tôt à la faculté de droit en Inde où, au milieu d’un océan de précédents vieux de plusieurs décennies, parfois d’un siècle, j’ai trouvé motivant de travailler dans un domaine où les questions « pré-politiques », les questions normatives de ce qui est le monde que nous voulons ? Quel rôle la technologie devrait-elle y jouer ? Restez ouvert et contestable. À l’époque, à l’échelle mondiale, le grand débat était de savoir si Internet pouvait être réglementé au niveau national (ce qui semble aujourd’hui très évident, oui !), et en Inde, des débats houleux ont eu lieu sur la question de savoir si une base de données d’identification biométrique des la population tout entière créait un dangereux vecteur de contrôle social. Face aux discours sur l’inévitabilité autour de l’IA et de la technologie, je pense que la réglementation et le plaidoyer peuvent être un outil puissant pour façonner les trajectoires de la technologie afin de servir les intérêts publics plutôt que les résultats financiers des entreprises ou simplement les intérêts de ceux qui détiennent le pouvoir dans la société. . Bien entendu, au fil des années, j’ai également appris que la réglementation est souvent entièrement récupérée par ces intérêts et peut souvent servir à maintenir le statu quo plutôt qu’à le remettre en question. Voilà donc le travail !
De quel travail êtes-vous le plus fier (dans le domaine de l’IA) ?
Notre rapport 2023 sur le paysage de l’IA a été publié en avril au milieu d’un crescendo de buzz sur l’IA alimenté par chatGPT – était en partie un diagnostic de ce qui devrait nous empêcher de dormir la nuit à propos de l’économie de l’IA, en partie un manifeste orienté vers l’action destiné à la communauté de la société civile au sens large. . Il a rencontré le moment – un moment où le diagnostic et les mesures à prendre pour y remédier manquaient cruellement, et à sa place se trouvaient des récits sur l’omniscience et l’inévitabilité de l’IA. Nous avons souligné que le boom de l’IA renforçait encore davantage la concentration du pouvoir au sein d’une section très étroite de l’industrie technologique, et je pense que nous avons réussi à surmonter le battage médiatique en réorientant l’attention sur les impacts de l’IA sur la société et sur l’économie… et à ne pas présumer de tout cela. c’était inévitable.
Plus tard dans l’année, nous avons pu présenter cet argument devant une salle remplie de dirigeants gouvernementaux et de hauts responsables de l’IA lors du sommet britannique sur la sécurité de l’IA, où j’étais l’une des trois seules voix de la société civile représentant l’intérêt public. Cela a été une leçon pour prendre conscience de la puissance d’un contre-récit convaincant qui recentre l’attention lorsqu’il est facile de se laisser emporter par des récits organisés et souvent égoïstes de l’industrie technologique.
Je suis également très fier d’une grande partie du travail que j’ai accompli au cours de mon mandat en tant que conseiller principal de la Federal Trade Commission sur l’IA, en travaillant sur les questions technologiques émergentes et sur certaines des mesures d’application clés dans ce domaine. C’était une équipe incroyable dont faire partie, et j’ai également appris la leçon cruciale selon laquelle même une seule personne dans la bonne salle au bon moment peut réellement faire la différence en influençant l’élaboration des politiques.
Comment relever les défis de l’industrie technologique à prédominance masculine et, par extension, de l’industrie de l’IA à prédominance masculine ?
L’industrie technologique, et l’IA en particulier, reste majoritairement blanche et masculine et géographiquement concentrée dans des bulles urbaines très riches. Mais j’aime m’éloigner du problème du mec blanc de l’IA, non seulement parce qu’il est désormais bien connu, mais aussi parce qu’il peut parfois créer l’illusion de solutions miracles ou d’un théâtre de la diversité qui, à lui seul, ne résoudra pas les inégalités structurelles et les déséquilibres de pouvoir inhérents à la manière dont l’industrie technologique fonctionne actuellement. Cela ne résout pas le « solutionnisme » profondément enraciné, responsable de nombreuses utilisations néfastes ou exploitantes de la technologie.
Le véritable problème auquel nous devons faire face est la création d’un petit groupe d’entreprises et, au sein de ceux-ci, d’une poignée d’individus qui ont accumulé un accès sans précédent au capital, aux réseaux et au pouvoir, récoltant les fruits du modèle économique de surveillance qui a alimenté l’économie. dernière décennie d’Internet. Et cette concentration de pouvoir risque de s’aggraver encore davantage avec l’IA. Ces individus agissent en toute impunité, même si les plateformes et infrastructures qu’ils contrôlent ont d’énormes impacts sociaux et économiques.
Comment pouvons-nous naviguer dans cela ? En révélant les dynamiques de pouvoir que l’industrie technologique s’efforce de dissimuler. Nous parlons des incitations, des infrastructures, des marchés du travail et de l’environnement qui alimentent ces vagues technologiques et façonnent leur direction. C’est ce que nous faisons chez AI Now depuis près d’une décennie, et lorsque nous le faisons bien, il nous est difficile pour les décideurs politiques et le public de détourner le regard – en créant des contre-récits et des imaginations alternatives sur le rôle approprié de la technologie. au sein de la société.
Quels conseils donneriez-vous aux femmes souhaitant se lancer dans le domaine de l’IA ?
Pour les femmes, mais aussi pour d’autres identités ou perspectives minoritaires cherchant à formuler des critiques extérieures à l’industrie de l’IA, le meilleur conseil que je puisse donner est de tenir bon. Il s’agit d’un domaine qui tente régulièrement et systématiquement de discréditer la critique, en particulier lorsqu’elle ne vient pas de milieux traditionnellement STEM – et c’est facile à faire étant donné que l’IA est une industrie tellement opaque qu’elle peut vous donner l’impression que vous essayez toujours de pousser plus loin. de retour de l’extérieur. Même si vous êtes dans le domaine depuis des décennies, comme moi, des voix puissantes dans l’industrie tenteront de vous saper, vous et vos critiques valables, simplement parce que vous contestez le statu quo.
Vous et moi avons autant notre mot à dire sur l’avenir de l’IA que Sam Altman, car les technologies auront un impact sur nous tous et auront potentiellement un impact disproportionné sur les personnes d’identités minoritaires de manière néfaste. À l’heure actuelle, nous nous battons pour savoir qui revendiquera son expertise et son autorité en matière de technologie au sein de la société… nous devons donc vraiment revendiquer cet espace et tenir bon.