Werner Vogels, CTO d’Amazon, sur les LLM sensibles à la culture, la productivité des développeurs et la FemTech

Traditionnellement, Werner Vogels, CTO d’Amazon, clôture la conférence AWS re:Invent avec son discours du dernier jour. Une tradition plus récente veut qu’il utilise également ce jour pour publier ses prévisions pour l’année à venir. Cette fois-ci, j’ai rencontré Vogels pour une longue interview avant son discours d’ouverture afin d’approfondir un peu les tendances qu’il observe et qu’il espère accélérer au cours de l’année à venir.

Étant donné qu’en 2023, une grande partie de nos discussions se sont bien sûr concentrées sur l’IA générative. Mais Vogels, né et basé aux Pays-Bas, a ici une perspective intéressante – et qui fait encore souvent défaut dans de nombreuses discussions sur l’IA générative. Sa première prédiction est que l’IA générative deviendra culturellement consciente, ce qui signifie que les modèles acquerront une meilleure compréhension des différentes traditions culturelles.

« Vous commencez à réaliser que la plupart de ces machines ont été formées sur Common Crawl, qui est anglais, très centré sur les États-Unis et sur l’Europe occidentale », a-t-il déclaré. « Et ce n’est pas seulement une question de langage – même si le langage intègre souvent des éléments culturels – mais il s’agit bien plus des données sur lesquelles ils ont été formés. »

Il a noté que si les entreprises souhaitent déployer ces outils genAI à travers le monde, elles doivent commencer à réfléchir à la manière de rendre leurs modèles plus sensibles à la culture. « Si nous ne résolvons pas ce problème, cela constituera un obstacle majeur au déploiement de cette technologie dans le monde entier, car il ne s’agit pas seulement de langue, mais aussi de tous les aspects culturels qui ont du sens pour nous en tant qu’humains », a-t-il déclaré.

Il a indiqué qu’il pensait qu’il existe aujourd’hui des technologies disponibles qui peuvent résoudre ce problème, notamment en permettant à plusieurs agents de débattre et de se tester, par exemple.

Lors d’un événement destiné aux développeurs, nous avons également évoqué ce que ce nouveau monde de grands modèles de langage (LLM) signifie pour les développeurs. Vogels, comme beaucoup d’autres acteurs de notre secteur, estime que l’IA générative améliorera considérablement la productivité des développeurs. Les outils qui étaient disponibles il y a quelques années, a-t-il noté, étaient utiles pour un certain type de développeur, mais les services de complétion et de génération de code d’aujourd’hui prennent une qualité très différente.

Logo AWS. Crédits images : TechCrunch

« Je pense qu’à ce moment-là, les outils étaient au niveau qui prenait vraiment en charge le type de développeur « copier-coller », la personne qui allait normalement sur Stack Overflow, postait la question, attendait une centaine de votes positifs et pensait : cela doit être la bonne réponse », a déclaré Vogels.

À l’époque, il estime que ce travail était principalement axé sur l’efficacité. « Je pense que ce qui a changé, c’est que les outils peuvent désormais avoir une vision plus large des choses », a-t-il déclaré. Il a comparé cette nouvelle génération d’outils de développement à la programmation par paires, où le modèle d’IA ressemble davantage à la présence à vos côtés d’un développeur très expérimenté qui sait tout sur une base de code donnée.

Comme beaucoup de ses pairs, Vogels croit également fermement que l’IA générative libérera les développeurs d’une grande partie du travail fastidieux d’écriture de tests, de refactorisation de code et d’écriture de passe-partout. Et même si certains technologues craignent que l’utilisation de ces outils n’empêche les développeurs débutants de perfectionner leur métier, Vogels ne croit pas que ce soit le cas. « Il y a énormément d’apprentissage sur le tas. Cela a toujours été le cas. Je m’attends à ce qu’avec les nouveaux outils, cette formation aille plus vite, mais il y a toujours beaucoup de formation sur le tas.

Il a également souligné que le rythme toujours croissant du développement technologique signifie qu’il est désormais plus important que jamais pour les collèges et les universités d’enseigner non seulement aux étudiants des compétences brutes, mais aussi la manière d’apprendre. « Ce que les universités vous enseignent a une valeur extrême : elles vous apprennent à apprendre. Ils vous apprennent à voir la situation dans son ensemble. Ils vous apprennent à analyser. Ils enseignent toutes ces choses cérébrales dont vous aurez besoin au travail », a déclaré Vogels – bien qu’il ne veuille pas entrer dans une discussion sur la situation critique actuelle des programmes de sciences humaines aux États-Unis.

Mais les prédictions de Vogel ne se concentrent pas uniquement sur l’IA. Il pense également que les technologies de santé des femmes vont enfin décoller, en partie parce qu’il y a désormais moins de stigmatisation autour de parler des soins de santé des femmes. «C’est un changement sociétal. La stigmatisation évolue. Les hommes parlent de la ménopause ces jours-ci, parce que leurs femmes, leurs amies, leurs petites amies ou leurs filles la traversent et qu’ils le voient. Il y a 20 ans, les femmes n’en parlaient même pas entre elles », a-t-il déclaré. Et avec cela, le capital-risque commence également à affluer sur ce marché.

Vogels estime que, puisque l’establishment médical a souvent ignoré les préoccupations liées à la santé des femmes ou privilégié la santé des hommes, nous pourrions arriver à un moment intéressant avec l’avènement de la médecine personnalisée et de précision, où de nombreux soins de santé destinés aux femmes passeront directement à ces techniques plus modernes.

« Je vois cela dans la femtech, où le changement se produit immédiatement : allons encore plus loin – assurons-nous que nous pouvons réellement prodiguer des soins de santé de précision », a-t-il déclaré.

À bien des égards, Vogels est optimiste en ce qui concerne la technologie et son potentiel à faire le bien. « J’ai résolu tellement de problèmes dans ma vie. Suis-je optimiste ? Oui, je le pense – parce que nous voulons que cela fonctionne », a-t-il déclaré. Il a également ajouté que même si la scène des startups américaines peut être absorbée par l’idée de créer des licornes, dans le reste du monde, les gens veulent souvent simplement bâtir une entreprise durable.

Mais il a noté qu’un problème auquel l’industrie technologique est confrontée est qu’elle évolue si rapidement en ce moment qu’il est difficile pour les gens de rattraper leur retard. « Le défi auquel nous sommes confrontés aujourd’hui, je pense, est que nos cycles d’adoption de technologies sont devenus tellement comprimés qu’il est difficile d’éduquer les gens dès le départ, avant que la technologie ne soit lancée. Je pense que c’est l’un des défis. Peut-être même pas pour les entreprises, mais si vous diffusez publiquement la technologie grand public sans aucune éducation, les gens vont être confus. Vous obtenez une réaction instinctive. Je pense qu’avec de la bonne volonté, nous allons résoudre ces problèmes. Mais nous devons également veiller à ne pas sous-estimer la nécessité de continuer à éduquer les gens sur les nouvelles technologies que nous proposons.

Il y a cependant une chose qui le rend heureux dans ce cycle rapide. « Ce qui est bien, c’est que je n’ai plus besoin de parler de blockchain à mes clients », a-t-il déclaré avec un sourire.

En savoir plus sur AWS re:Invent 2023 sur TechCrunch

Source-146