Il y a quelques mois, OpenAI a lancé le GPT Store, un marché où les utilisateurs peuvent créer et répertorier des chatbots basés sur l’IA et personnalisés pour effectuer un certain nombre de tâches (par exemple, coder, répondre à des questions triviales). Le GPT Store est puissant, bien sûr. Mais son utilisation nécessite d’utiliser les modèles d’OpenAI et aucun autre, ce à quoi certains créateurs de chatbots – et utilisateurs – s’opposent.
Les startups créent donc des alternatives.
L’un d’entre eux, FlowGPT, vise à être une sorte de « boutique d’applications » pour les modèles d’IA génératifs comme Gemini de Google, Claude d’Anthropic, Llama 2 de Meta et DALL-E 3 d’OpenAI, ainsi que des expériences frontales pour ces modèles (pensez aux champs de texte et suggestions rapides). Grâce à FlowGPT, les utilisateurs peuvent créer leurs propres applications basées sur GenAI et les rendre accessibles au public, gagnant ainsi des pourboires pour leurs contributions.
Jay Dang, un décrocheur en informatique de l’UC Berkeley, et Lifan Wang, un ancien responsable de l’ingénierie chez Amazon, ont cofondé FlowGPT l’année dernière avec un désir commun de créer une plate-forme où les gens pourraient rapidement créer et partager des applications GenAI.
« Il y a encore une courbe d’apprentissage pour que les utilisateurs utilisent l’IA », a déclaré Dang à TechCrunch dans une interview par courrier électronique. « FlowGPT abaisse la barre à chaque itération, la rendant plus accessible. »
Dang décrit FlowGPT comme un « écosystème » pour les applications basées sur GenAI – un ensemble d’infrastructures et d’outils de création liés à un marché et à une communauté d’utilisateurs d’applications GenAI. Les utilisateurs reçoivent un flux d’applications et de collections d’applications qui leur sont recommandées en fonction des catégories de tendances (par exemple, « Créatif », « Programmation », « Jeu » « Académique »), tandis que les créateurs disposent d’options pour personnaliser le comportement – et l’apparence – des applications GenAI. .
Les utilisateurs interagissent avec les applications GenAI sur FlowGPT via une fenêtre de discussion qui n’est pas différente de ChatGPT, avec des options permettant de saisir des invites, des applications avec pouce levé (ou pouce vers le bas), de partager des liens vers des conversations ou de donner des pourboires aux créateurs d’applications individuels. Chaque application a une description fournie par le créateur ainsi que la date de création, le nombre de fois où elle a été utilisée et le modèle recommandé par le créateur pour l’alimenter.
Je dis « modèle recommandé par le créateur » parce que les applications FlowGPT sont en réalité, à la base, des invites – des invites qui incitent les modèles à répondre de certaines manières. Par exemple, l’application « Scared Girl from Horror Movie » demande à ChatGPT de raconter – comme le titre l’indique – une histoire d’horreur impliquant une fille effrayée. « TitleTuner » invite ChatGPT à optimiser les titres afin qu’ils soient mieux classés sur les moteurs de recherche. Et SchoolGPT exploite ChatGPT pour des solutions étape par étape aux problèmes de mathématiques, de physique et de chimie.
Crédits images : FluxGPT
Vous remarquerez la forte dépendance à l’égard de ChatGPT. Utilisez FlowGPT assez longtemps et vous remarquerez également que de nombreuses invites s’interrompent lorsque le modèle passe de la valeur par défaut.
Parfois, il s’agit du fait que le modèle sélectionné n’a pas les capacités adéquates. D’autres fois, l’invite se heurte aux filtres et aux protections d’un modèle.
Au sujet des garanties. . .
Certaines des applications les plus populaires de FlowGPT sont essentiellement des jailbreaks conçus pour contourner les mesures de sécurité des modèles. Il existe plusieurs versions de DAN sur le marché – « DAN » étant une méthode d’invite populaire utilisée pour amener les modèles à répondre à des invites sans être limitées par leurs règles habituelles. Ailleurs, il existe des applications comme WormGPT, qui prétend être capable de coder des logiciels malveillants (et de créer des liens vers des versions payantes du dark web du chatbot qui en font plus), et des simulateurs de rencontres qui enfreignent les règles d’OpenAI interdisant de favoriser la camaraderie romantique.
Beaucoup de ces applications pourraient potentiellement causer des dommages, comme les applications de thérapie et les applications qui se présentent comme des ressources de santé faisant autorité. Les modèles GenAI comme ChatGPT sont notoirement de mauvais donneurs de conseils en matière de santé, une étude montrant qu’une version antérieure de ChatGPT fournissait rarement des références vers des ressources spécifiques pour obtenir de l’aide en matière de suicide, de dépendance et d’agression sexuelle.
Toute application sur FlowGPT qui offense – par exemple, pour avoir donné des instructions sur la façon de générer des deepfakes nus avec un générateur d’images IA (et il y en a plusieurs qui le font) – peut être signalée au responsable de la communauté de la plate-forme pour examen. Et FlowGPT fait proposez une bascule pour le « contenu sensible ».
Crédits images : FluxGPT
Mais il ressort clairement de la page d’accueil que FlowGPT a un problème de modération. C’est le Far West des applications GenAI – et la bascule est inefficace au point que je remarque à peine une différence dans la sélection des applications lorsqu’elle est activée.
Dang jure haut et bas que FlowGPT est en fait une plate-forme éthique et respectueuse des règles, avec des politiques d’atténuation des risques en place visant à « assurer »[ing] la sécurité publique. »
« Nous collaborons de manière proactive avec des experts de premier plan dans le domaine de l’éthique de l’IA », a-t-il déclaré. « Notre collaboration est axée sur le développement de stratégies globales visant à minimiser les risques associés au déploiement de l’IA. »
Considérant que cet écrivain a obtenu une application FlowGPT pour donner des instructions sur la vente de médicaments et le braquage d’une banque, je dirais que l’entreprise a du travail à faire.
Les investisseurs semblent penser le contraire.
Cette semaine, Goodwater a annoncé avoir mené un cycle de « pré-série A » de 10 millions de dollars dans FlowGPT avec la participation du bailleur de fonds existant DCM. Coddy Johnson, partenaire de Goodwater, s’adressant à TechCrunch par e-mail, a déclaré qu’il considère que FlowGPT « aide à montrer la voie » dans GenAI en offrant « le plus large choix » et « le plus de flexibilité et de liberté » aux utilisateurs et aux créateurs.
« Nous pensons que le plus grand avenir de l’IA réside dans les écosystèmes ouverts », a ajouté Johnson. « FluxGPT [is allowing] aux créateurs de choisir leurs modèles et de collaborer avec leurs communautés.
Crédits images : FluxGPT
Je ne suis pas sûr que tous les responsables des modèles exploités par FlowGPT – en particulier ceux qui se sont engagés à faire de la sécurité de l’IA une priorité absolue – partageront cet enthousiasme.
Néanmoins, et au lieu des répercussions desdits fournisseurs (au moins au moment de la publication), FlowGPT – qui ne génère pas encore de revenus – prépare le terrain pour son expansion. Les applications de test bêta de la société pour Android et iOS apporteront une expérience FlowGPT remaniée au mobile, en travaillant sur un modèle de partage des revenus pour les créateurs d’applications et en recrutant pour développer son équipe de 10 personnes basée à Berkeley, a déclaré Dang.
« Avec des millions d’utilisateurs mensuels et un taux de croissance rapide, nous avons déjà prouvé que nous sommes sur la bonne voie, et nous pensons qu’il est temps d’accélérer les progrès », a-t-il poursuivi. « Nous établissons une nouvelle norme en matière d’immersion dans les environnements basés sur l’IA, offrant un monde où la créativité ne connaît pas de limites. . . [O]Notre mission reste de cultiver une plateforme plus ouverte et axée sur les créateurs.
Nous verrons jusqu’où cela mènera.