« Il répond bien aux questions liées au Bitcoin et à l’économie, au moins mieux que GPT-4 », a déclaré Aleksandar Svetski à Cointelegraph lors d’un Bitcoin animé à Amsterdam.
L’entrepreneur, auteur et fondateur de Spirit of Satoshi, un nouveau modèle de langage étendu (LLM) d’IA, commence à dévoiler le parcours ardu que sa petite startup a entrepris pour créer son chatbot d’IA centré sur Bitcoin.
Le modèle est le résultat d’un processus de formation fastidieux visant à générer des réponses basées sur des ressources Bitcoin réputées, le Ecole autrichienne d’économie et les idéaux libertaires. Encore à ses balbutiements, Spirit of Satoshi reflète les idéaux d’un « corpus Bitcoin bien organisé » comprenant des ressources comme le best-seller de Saifedean Ammous. La norme Bitcoin.
Svetski explique que la difficulté majeure dans la construction du modèle n’était pas seulement de rassembler des sources d’informations pertinentes allant des livres, des articles de recherche aux podcasts, mais aussi de guider le modèle pour générer des réponses à travers un processus de formation exhaustif. Il ajoute qu’une idée fausse courante à propos des LLM est qu’ils recherchent des informations comme un moteur de recherche :
«Ils enchaînent simplement des mots de manière probabiliste d’une manière qui est représentative des modèles au sein du modèle. Il ne s’agit donc même pas de trouver quoi que ce soit.
C’est en partie la raison pour laquelle les chatbots IA ont tendance à « halluciner » de temps en temps, explique Svetski, et pourquoi le développement d’un LLM nécessite de se concentrer sur sa formation sur un style de réponse. Spirit of Satoshi n’est en aucun cas parfait non plus, du moins pas dans sa version actuelle :
« Notre modèle va aussi halluciner. Ça va aussi dire de la merde, mais ça va dire quelque chose de plus comme le dirait un Bitcoiner.
Après avoir établi une base large mais ciblée d’informations et de données centrées sur Bitcoin, l’équipe de Svetski a commencé à alimenter le modèle avec des dizaines de milliers de paires de questions et de réponses à l’aide de méthodes programmatiques. Cependant, un élément humain est toujours nécessaire pour aider Spirit of Satoshi à générer des réponses qui auraient pu provenir de son homonyme.
En relation: Bitcoin Amsterdam : BTC brille au plus profond du marché baissier de la cryptographie
Le développement continu du modèle s’appuie donc sur la communauté Bitcoin plus large. Spirit of Satoshi utilise un processus d’incitation qui permet au public de vérifier, créer et valider les données du modèle.
En utilisant les informations d’identification du Lightning Network, de Nostr ou des adresses e-mail, un mécanisme de « preuve de connaissances » permet aux utilisateurs d’être payés en satoshis pour avoir aidé à former le modèle.
Le processus utilise un modèle de consensus qui imposera automatiquement une pénalité si les utilisateurs créent des « données indésirables ». Svetski le décrit comme l’élément « humain » crucial pour améliorer les résultats de Spirit of Satoshi :
« Cela produit un contenu incroyable, c’est le dernier élément qui fait passer votre contenu de 80 % de bon à 95 % de bon. Et cela a un impact énorme sur la qualité du modèle.
La différence entre les réponses générées par Spirit of Satoshi et ChatGPT est palpable, selon Svetski. Ce dernier est formé sur les idées dominantes de ce qu’est le Bitcoin et des concepts comme l’inflation :
« Si nous interrogeons ChatGPT sur l’inflation, il vous dira que c’est le signe d’une économie saine. Eh bien non, l’inflation est le signe de problèmes systémiques, comme la diminution de votre pouvoir d’achat.»
Svetski dit que ce scénario faisait partie de la raison d’être de Spirit of Satoshi, en reformant le LLM pour refléter les nuances qui incarnent le type de pensée derrière le mouvement Bitcoin :
« Si vous posez des questions sur l’inflation, notre modèle devrait répondre ‘non, l’inflation est en fait mauvaise pour l’économie car elle décourage l’épargne’ ou ‘l’épargne a un effet d’entraînement sur les préférences temporelles des gens’. »
L’avenir de la plateforme est assez ouvert selon son fondateur. Spirit of Satoshi pourrait être un outil d’apprentissage ou un tuteur en ligne intégré à des plateformes éducatives ou à des universités en ligne. Cela pourrait également être la base de « l’influenceur Bitcoin ultime » grâce à ses résultats centrés sur BTC :
« J’aimerais le voir devenir la destination des 100 ou 500 millions de personnes qui souhaitent en savoir plus sur Bitcoin, le point de départ de leurs premiers pas de compréhension. »
Spirit of Satoshi a été construit sur la base d’un modèle open source existant qui possède une maîtrise inhérente de l’anglais et un « parti pris de type Wikipédia ». Ce dernier problème a été résolu en structurant les réponses du modèle à son ensemble de données sur les principes économiques Bitcoin et autrichiens.
Magazine : « Élégant et arriéré » : la première impression de Jameson Lopp sur Bitcoin