Amazon lance un chatbot basé sur l’IA pour les clients AWS appelé Q.
Dévoilé lors d’un discours lors de la conférence AWS re:Invent d’Amazon à Las Vegas ce matin, Q — à partir de 20 $ par utilisateur et par an, maintenant en préversion publique — peut répondre à des questions telles que « Comment créer une application Web à l’aide d’AWS ? Formé sur 17 ans de connaissances sur AWS, Q proposera une liste de solutions potentielles ainsi que les raisons pour lesquelles vous pourriez envisager ses propositions.
« Vous pouvez facilement discuter, générer du contenu et prendre des mesures [with Q] », a déclaré Adam Selipsky, PDG d’AWS, sur scène. « Tout repose sur une compréhension de vos systèmes, de vos référentiels de données et de vos opérations. »
Les clients AWS configurent Q en le connectant et en le personnalisant avec des applications et des logiciels spécifiques à l’organisation comme les instances de stockage Salesforce, Jira, Zendesk, Gmail et Amazon S3. Q indexe toutes les données et contenus connectés, les aspects « d’apprentissage » d’une entreprise, y compris ses structures organisationnelles, ses concepts de base et les noms de produits.
À partir d’une application Web, une entreprise peut demander à Q d’analyser, par exemple, les fonctionnalités du produit avec lesquelles ses clients rencontrent des difficultés et les moyens possibles de les améliorer – ou, à la ChatGPT, télécharger un fichier (un document Word, un PDF, une feuille de calcul et le like) et posez des questions sur ce fichier. Q s’appuie sur ses connexions, ses intégrations et ses données, y compris des données spécifiques à l’entreprise, pour proposer des réponses accompagnées de citations.
Q va au-delà de la simple réponse aux questions. L’assistant peut générer ou résumer du contenu tel que des articles de blog, des communiqués de presse et des e-mails. Et il prend des mesures au nom d’un utilisateur via un ensemble de plugins configurables, comme la création automatique de tickets de service, la notification d’équipes particulières dans Slack et la mise à jour des tableaux de bord dans ServiceNow.
Pour éviter les erreurs, Q demande aux utilisateurs d’inspecter les actions qu’il est sur le point d’entreprendre avant de les exécuter et de créer un lien vers les résultats pour validation.
Accessible depuis AWS Management Console et l’application Web susmentionnée, ainsi que depuis les applications de chat existantes comme Slack, Q possède une compréhension approfondie d’AWS et des produits et services disponibles via celui-ci, comme vous pouvez l’imaginer. Amazon affirme que Q peut comprendre les nuances des charges de travail des applications sur AWS, suggérant des solutions AWS pour les applications qui ne s’exécutent que pendant quelques secondes plutôt que quelques minutes ou heures ou pour les applications qui n’accèdent que très rarement au stockage, par exemple.
Sur scène, Selipsky a donné l’exemple d’une application qui s’appuie sur un encodage et un transcodage vidéo hautes performances. Interrogé sur la meilleure instance EC2 pour l’application en question, Q donnerait une liste prenant en compte les considérations de performances et de coûts, a déclaré Selipsky.
« Je crois vraiment que cela va être transformateur », a-t-il déclaré, faisant référence à Q. « Nous voulons que de nombreuses personnes différentes qui effectuent de nombreux types de travaux différents bénéficient d’Amazon Q. »
Crédits images : Frédéric Lardinois / TechCrunch
Q peut également résoudre des problèmes tels que les problèmes de connectivité réseau, en analysant les configurations réseau pour proposer des mesures correctives.
Et Q s’associe à CodeWhisperer, le service d’Amazon capable de générer et d’interpréter le code d’une application. Au sein d’un IDE pris en charge (par exemple, CodeCatalyst d’Amazon), Q peut générer des tests pour évaluer les logiciels en s’appuyant sur la connaissance du code d’un client. Q peut également créer un projet de plan et une documentation pour implémenter de nouvelles fonctionnalités dans le logiciel ou transformer le code et mettre à niveau les packages de code, les référentiels et les frameworks – des plans qui peuvent ensuite être affinés et exécutés en langage naturel.
Selipsky indique qu’une petite équipe d’Amazon a utilisé Q en interne pour mettre à niveau environ 1 000 applications de Java 8 vers Java 17 – et tester ces applications – en seulement deux jours.
Les fonctionnalités de transformation de code de Q prennent uniquement en charge la mise à niveau des applications Java 8 et Java 11 vers Java 17 (avec .NET Framework vers .NET multiplateforme à venir), tandis que toutes les fonctionnalités liées au code de Q, y compris la transformation de code, nécessitent un CodeWhisperer Professional. abonnement. On ne sait pas quand ni si les conditions d’abonnement changeront.
Amazon affirme qu’il développe également Q ses produits propriétaires tels qu’AWS Supply Chain et QuickSight, un service d’analyse commerciale. Q dans QuickSight peut fournir des options de visualisation pour les rapports commerciaux, les reformater automatiquement ou répondre aux questions sur les données référencées ou contenues dans un rapport. Dans AWS Supply Chain, Q peut répondre à des requêtes telles que « Qu’est-ce qui cause le retard de mes expéditions ? » avec des analyses à la minute près.
Q fait également son entrée dans le logiciel de centre de contact d’Amazon, Amazon Connect. Désormais, grâce à Q, les agents du service client peuvent obtenir des propositions de réponses aux questions des clients avec des actions suggérées et des liens vers des articles d’assistance associés sans avoir à saisir ces questions dans une barre de texte. Q génère également un résumé post-appel que les superviseurs peuvent utiliser pour suivre les étapes de suivi.
Selipsky a souligné à plusieurs reprises tout au long de son discours que les réponses données par Q – et les actions qu’elles entreprennent – sont entièrement contrôlables et filtrables. Q ne renverra que les informations qu’un utilisateur est autorisé à voir, et les administrateurs peuvent restreindre les sujets sensibles, en demandant à Q de filtrer les questions et réponses inappropriées si nécessaire.
Pour atténuer les hallucinations (c’est-à-dire les cas où Q pourrait inventer des faits, un problème courant avec les systèmes d’IA générative), les administrateurs peuvent choisir que Q extrait uniquement les documents de l’entreprise plutôt que les connaissances des modèles sous-jacents. Les modèles qui pilotent Q – un mélange de modèles de Bedrock, la plate-forme de développement d’IA d’Amazon, y compris la propre famille Titan d’Amazon – ne s’entraînent pas sur les données d’un client, a déclaré Selipsky.
Ces puces étaient sans aucun doute destinées aux entreprises qui hésitent à adopter l’IA générative pour des raisons de responsabilité et de sécurité. Plus d’une douzaine d’entreprises ont interdit ou restreint ChatGPT, exprimant leurs inquiétudes quant à la manière dont les données saisies dans le chatbot pourraient être utilisées et au risque de fuite de données.
« Si votre utilisateur n’est pas autorisé à accéder à quelque chose sans Q, il ne peut pas y accéder avec Q non plus », a déclaré Selipsky. « Q comprend et respecte vos identités existantes, vos rôles et vos autorisations… nous n’utiliserons jamais [business content] pour former les modèles sous-jacents.
Mis à part l’accent mis sur la confidentialité, à bien des égards, Q semble être la réponse d’Amazon au Copilot de Microsoft pour Azure – qui était à son tour la réponse de Microsoft à Duet AI dans Google Cloud. Copilot pour Azure et Duet AI prennent tous deux la forme d’assistants pilotés par chat pour les clients cloud, suggérant des configurations pour les applications et les environnements et aidant au dépannage en identifiant les problèmes potentiels et leurs solutions.
Crédits images : Frédéric Lardinois / TechCrunch
Mais Q semble être un peu plus complet, abordant un large éventail de cas d’utilisation de la business intelligence, de la programmation et de la configuration. Ray Wang, fondateur et analyste principal de Constellation Research, a déclaré à TechCrunch qu’il pensait qu’il s’agissait de l’annonce « la plus importante » faite à re:Invent jusqu’à présent.
« Il s’agit de doter les développeurs de l’IA pour qu’ils réussissent », a-t-il déclaré – une remarque importante à soulever étant donné que, selon au moins une enquête récente, de nombreuses entreprises pilotant l’IA générative ont du mal à trouver des cas d’utilisation commerciaux et à surmonter des implémentations mal conçues. .
Nous devrons simplement voir si Q fonctionne aussi bien qu’Amazon le prétend.
