Pour donner aux universitaires spécialisées dans l’IA et à d’autres leur temps bien mérité – et attendu – sous les projecteurs, TechCrunch lance une série d’entretiens axés sur des femmes remarquables qui ont contribué à la révolution de l’IA. Nous publierons des articles tout au long de l’année, à mesure que le boom de l’IA se poursuit, mettant en lumière des travaux clés qui restent souvent méconnus. Lisez plus de profils ici.
Emilia Gómez est chercheuse principale au Centre commun de recherche de la Commission européenne et coordinatrice scientifique d’AI Watch, l’initiative de la CE visant à surveiller les progrès, l’adoption et l’impact de l’IA en Europe. Son équipe apporte ses connaissances scientifiques et techniques aux politiques de la CE en matière d’IA, y compris la loi sur l’IA récemment proposée.
Les recherches de Gómez sont fondées sur le domaine de la musique computationnelle, où elle contribue à la compréhension de la façon dont les humains décrivent la musique et des méthodes par lesquelles elle est modélisée numériquement. En partant du domaine musical, Gómez étudie l’impact de l’IA sur le comportement humain, en particulier ses effets sur les emplois, les décisions et le développement cognitif et socio-émotionnel des enfants.
Questions et réponses
En bref, comment avez-vous débuté dans l’IA ? Qu’est-ce qui vous a attiré dans le domaine ?
J’ai commencé mes recherches en IA, en particulier en apprentissage automatique, en tant que développeur d’algorithmes pour la description automatique des signaux audio musicaux en termes de mélodie, de tonalité, de similitude, de style ou d’émotion, qui sont exploités dans différentes applications allant des plateformes musicales à l’éducation. . J’ai commencé à rechercher comment concevoir de nouvelles approches d’apprentissage automatique traitant de différentes tâches informatiques dans le domaine de la musique, ainsi que la pertinence du pipeline de données, y compris la création et l’annotation d’ensembles de données. Ce que j’aimais à l’époque dans l’apprentissage automatique, c’était ses capacités de modélisation et le passage d’une conception d’algorithmes basée sur les connaissances à une conception d’algorithmes basée sur les données – par exemple, au lieu de concevoir des descripteurs basés sur nos connaissances en acoustique et en musique, nous utilisions désormais notre savoir-faire pour concevoir des ensembles de données, des architectures et des procédures de formation et d’évaluation.
Grâce à mon expérience en tant que chercheur en apprentissage automatique et en voyant mes algorithmes « en action » dans différents domaines, des plateformes musicales aux concerts de musique symphonique, j’ai réalisé l’énorme impact que ces algorithmes ont sur les gens (par exemple les auditeurs, les musiciens) et j’ai orienté mes recherches. vers l’évaluation de l’IA plutôt que vers le développement, en particulier sur l’étude de l’impact de l’IA sur le comportement humain et sur la manière d’évaluer les systèmes en termes d’aspects tels que l’équité, la surveillance humaine ou la transparence. C’est le sujet de recherche actuel de mon équipe au Centre commun de recherche.
De quel travail êtes-vous le plus fier (dans le domaine de l’IA) ?
Sur le plan académique et technique, je suis fier de mes contributions aux architectures d’apprentissage automatique spécifiques à la musique au sein du Music Technology Group de Barcelone, qui ont fait progresser l’état de l’art dans le domaine, comme cela se reflète dans mes relevés de citations. Par exemple, au cours de ma thèse, j’ai proposé un algorithme basé sur des données pour extraire la tonalité des signaux audio (par exemple si une pièce musicale est en do majeur ou en ré mineur), qui est devenu une référence clé dans le domaine, et plus tard j’ai co-conçu une machine méthodes d’apprentissage pour la description automatique de signaux musicaux en termes de mélodie (utilisées par exemple pour rechercher des chansons en fredonnant), de tempo ou pour la modélisation des émotions dans la musique. La plupart de ces algorithmes sont actuellement intégrés dans Essentia, une bibliothèque open source pour l’analyse, la description et la synthèse audio et musicale et ont été exploités dans de nombreux systèmes de recommandation.
Je suis particulièrement fier de Banda Sonora Vital (LifeSoundTrack), un projet récompensé par le Prix de la Croix-Rouge pour les technologies humanitaires, dans lequel nous avons développé un outil de recommandation musicale personnalisé adapté aux patients âgés atteints de la maladie d’Alzheimer. Il y a aussi PHENICX, un grand projet financé par l’Union européenne (UE) que j’ai coordonné sur l’utilisation de la musique ; et l’IA pour créer des expériences musicales symphoniques enrichies.
J’adore la communauté informatique musicale et j’ai été heureuse de devenir la première femme présidente de la Société internationale pour la recherche d’informations musicales, à laquelle j’ai contribué tout au long de ma carrière, avec un intérêt particulier pour l’augmentation de la diversité dans ce domaine.
Actuellement, dans mon rôle à la Commission, que j’ai rejoint en 2018 en tant que scientifique principal, je fournis un soutien scientifique et technique aux politiques d’IA développées dans l’UE, notamment la loi sur l’IA. De ce travail récent, moins visible en termes de publications, je suis fier de mes humbles contributions techniques à l’AI Act — je dis « humble » car vous vous en doutez, il y a beaucoup de personnes impliquées ici ! À titre d’exemple, j’ai contribué à de nombreux travaux sur l’harmonisation ou la traduction entre termes juridiques et techniques (par exemple en proposant des définitions fondées sur la littérature existante) et sur l’évaluation de la mise en œuvre pratique des exigences juridiques, telles que la transparence ou la documentation technique pour les hautes exigences. systèmes d’IA à risques, modèles d’IA à usage général et IA générative.
Je suis également très fier du travail de mon équipe en faveur de la directive européenne sur la responsabilité en matière d’IA, où nous avons étudié, entre autres, les caractéristiques particulières qui rendent les systèmes d’IA intrinsèquement risqués, comme le manque de causalité, l’opacité, l’imprévisibilité ou leur auto- et continuel- capacités d’apprentissage et évalué les difficultés associées présentées lorsqu’il s’agit de prouver le lien de causalité.
Comment relever les défis d’un secteur technologique à prédominance masculine et, par extension, de celui de l’IA, à prédominance masculine ?
Ce n’est pas seulement une question de technologie : je navigue également dans un domaine de recherche et de politique en matière d’IA dominé par les hommes ! Je n’ai pas de technique ni de stratégie, car c’est le seul environnement que je connais. Je ne sais pas ce que ce serait de travailler dans un environnement de travail diversifié ou à prédominance féminine. « Ne serait-ce pas sympa ? », comme le dit la chanson des Beach Boys. J’essaie honnêtement d’éviter la frustration et de m’amuser dans ce scénario difficile, en travaillant dans un monde dominé par des hommes très affirmés et en appréciant de collaborer avec d’excellentes femmes dans le domaine.
Quels conseils donneriez-vous aux femmes souhaitant se lancer dans le domaine de l’IA ?
Je leur dirais deux choses :
Vous êtes indispensable – veuillez entrer dans notre domaine, car il existe un besoin urgent de diversité de visions, d’approches et d’idées. Par exemple, selon le projet divinAI — un projet que j’ai co-fondé sur la surveillance de la diversité dans le domaine de l’IA — seuls 23 % des noms d’auteurs à la Conférence internationale sur l’apprentissage automatique et 29 % à la Conférence internationale conjointe sur l’IA en 2023 étaient des femmes. , quelle que soit leur identité de genre.
Vous n’êtes pas seul : il y a de nombreuses femmes, collègues non binaires et alliés masculins sur le terrain, même si nous ne sommes peut-être pas aussi visibles ou reconnus. Recherchez-les et obtenez leur mentorat et leur soutien ! Dans ce contexte, de nombreux groupes affinitaires sont présents dans le domaine de la recherche. Par exemple, lorsque je suis devenue présidente de la Société internationale pour la recherche d’informations musicales, j’ai été très active dans l’initiative Women in Music Information Retrieval, pionnière dans les efforts de diversité dans l’informatique musicale avec un programme de mentorat très réussi.
Quels sont les problèmes les plus urgents auxquels l’IA est confrontée à mesure qu’elle évolue ?
Selon moi, les chercheurs devraient consacrer autant d’efforts au développement de l’IA qu’à son évaluation, car il y a aujourd’hui un déséquilibre. La communauté des chercheurs est tellement occupée à faire progresser l’état de l’art en termes de capacités et de performances de l’IA et tellement enthousiaste à l’idée de voir ses algorithmes utilisés dans le monde réel qu’elle oublie de procéder à des évaluations, des analyses d’impact et des audits externes appropriés. Plus les systèmes d’IA sont intelligents, plus leurs évaluations devraient l’être. Le domaine de l’évaluation de l’IA est sous-étudié, ce qui est à l’origine de nombreux incidents qui donnent une mauvaise réputation à l’IA, par exemple les préjugés sexistes ou raciaux présents dans les ensembles de données ou les algorithmes.
Quels sont les problèmes dont les utilisateurs d’IA devraient être conscients ?
Les citoyens qui utilisent des outils basés sur l’IA, comme les chatbots, doivent savoir que l’IA n’est pas magique. L’intelligence artificielle est un produit de l’intelligence humaine. Ils doivent se renseigner sur les principes de fonctionnement et les limites des algorithmes d’IA pour pouvoir les challenger et les utiliser de manière responsable. Il est également important que les citoyens soient informés de la qualité des produits d’IA, de la manière dont ils sont évalués ou certifiés, afin qu’ils sachent à qui ils peuvent faire confiance.
Quelle est la meilleure façon de développer l’IA de manière responsable ?
À mon avis, la meilleure façon de développer des produits d’IA (avec un bon impact social et environnemental et de manière responsable) est de consacrer les ressources nécessaires à l’évaluation, à l’évaluation de l’impact social et à l’atténuation des risques – par exemple pour les droits fondamentaux – avant de mettre un système d’IA sur le marché. Cela profite aux entreprises et à la confiance dans les produits, mais aussi à la société.
L’IA responsable ou IA digne de confiance est un moyen de créer des algorithmes où des aspects tels que la transparence, l’équité, la surveillance humaine ou le bien-être social et environnemental doivent être pris en compte dès le début du processus de conception de l’IA. En ce sens, la loi sur l’IA fixe non seulement la barre en matière de réglementation de l’intelligence artificielle à l’échelle mondiale, mais elle reflète également l’accent européen mis sur la fiabilité et la transparence, permettant l’innovation tout en protégeant les droits des citoyens. Je pense que cela augmentera la confiance des citoyens dans le produit et la technologie.