Les clients OpenAI peuvent désormais apporter des données personnalisées à la version allégée de GPT-3.5, GPT-3.5 Turbo, ce qui facilite l’amélioration de la fiabilité du modèle d’IA de génération de texte tout en intégrant des comportements spécifiques.
OpenAI affirme que les versions affinées de GPT-3.5 peuvent égaler ou même surpasser les capacités de base de GPT-4, le modèle phare de l’entreprise, sur « certaines tâches restreintes ».
« Depuis la sortie de GPT-3.5 Turbo, les développeurs et les entreprises ont demandé la possibilité de personnaliser le modèle afin de créer des expériences uniques et différenciées pour leurs utilisateurs », a écrit la société dans un article de blog publié cet après-midi. « Cette mise à jour donne aux développeurs la possibilité de personnaliser des modèles plus performants pour leurs cas d’utilisation et d’exécuter ces modèles personnalisés à grande échelle. »
Avec un réglage fin, les entreprises utilisant GPT-3.5 Turbo via l’API d’OpenAI peuvent faire en sorte que le modèle suive mieux les instructions, par exemple en le faisant toujours répondre dans une langue donnée. Ils peuvent également améliorer la capacité du modèle à formater les réponses de manière cohérente (par exemple pour compléter des extraits de code), ainsi qu’à affiner la « sensation » du résultat du modèle, comme son ton, afin qu’il corresponde mieux à une marque ou à une voix.
De plus, un réglage précis permet aux clients OpenAI de raccourcir leurs invites textuelles pour accélérer les appels d’API et réduire les coûts. « Les premiers testeurs ont réduit la taille des invites jusqu’à 90 % en affinant les instructions dans le modèle lui-même », affirme OpenAI dans le billet de blog.
Le réglage fin nécessite actuellement de préparer les données, de télécharger les fichiers nécessaires et de créer une tâche de réglage fin via l’API d’OpenAI. Toutes les données de réglage fin doivent passer par une API de « modération » et un système de modération alimenté par GPT-4 pour voir si elles sont en conflit avec les normes de sécurité d’OpenAI, explique l’entreprise. Mais OpenAI prévoit de lancer à l’avenir une interface utilisateur de réglage fin avec un tableau de bord permettant de vérifier l’état des charges de travail de réglage fin en cours.
Les coûts de mise au point sont les suivants :
- Formation : 0,008 $ / 1 000 jetons
- Entrée d’utilisation : 0,012 $ / 1 000 jetons
- Sortie d’utilisation : 0,016 $ / 1 000 jetons
Les « jetons » représentent du texte brut – par exemple « fan », « tas » et « tic » pour le mot « fantastique ». Un travail de mise au point GPT-3.5-turbo avec un fichier de formation de 100 000 jetons, soit environ 75 000 mots, coûterait environ 2,40 dollars, selon OpenAI.
Par ailleurs, OpenAI a mis à disposition aujourd’hui deux modèles de base GPT-3 mis à jour (babbage-002 et davinci-002), qui peuvent également être ajustés, avec prise en charge de la pagination et « plus d’extensibilité ». Comme annoncé précédemment, OpenAI prévoit de retirer les modèles de base GPT-3 d’origine le 4 janvier 2024.
OpenAI a déclaré que la prise en charge du réglage fin de GPT-4 – qui, contrairement à GPT-3.5, peut comprendre les images en plus du texte – arrivera plus tard cet automne, mais n’a pas fourni de détails supplémentaires.