Diane Francis : ChatGPT est impressionnant, mais soulève plusieurs drapeaux rouges

Contenu de l’article

Le brouhaha médiatique entourant ChatGPT, et l’intelligence artificielle (IA) en général, nécessite une contextualisation. En tant qu’ancien investisseur dans le développement de logiciels en Ukraine, je peux attester du fait qu’il représente une percée étonnante, mais aussi qu’il ne remplacera pas de si tôt les travailleurs du savoir du monde.

Contenu de l’article

ChatGPT est Siri sous stéroïdes, un chatbot qui peut comprendre les questions du langage humain et répondre avec des résumés contenant des phrases – et même de la poésie. Ceci a été accompli en construisant une plate-forme qui a accès à une énorme base de données de mots et de phrases, puis a la capacité opérationnelle de rassembler immédiatement une réponse ou un résumé connexe.

Contenu de l’article

ChatGPT représente une autre étape vers la réalité que l’intelligence artificielle finira par devenir plus intelligente que les humains au cours de ce siècle. Il déplacera également de nombreux travailleurs du savoir dans les décennies à venir, mais pour l’instant, c’est un outil pour tous ceux qui s’intéressent à pratiquement tout, ainsi que pour les journalistes, les chercheurs, les enseignants, les étudiants et les gestionnaires.

Contenu de l’article

Pourtant, des dangers menacent, comme pour toute nouvelle technologie, et ceux-ci sont mis en évidence dans la série de questions que j’ai posées à ChatGPT. Ce qui suit est un extrait d’une interview que j’ai menée avec ChatGPT, dans laquelle je l’ai interrogé sur son exactitude, testé s’il fournirait des informations potentiellement dangereuses et lui ai demandé de faire une prédiction.

Q : Utilise-t-il des informations non vérifiées ?

UN: ChatGPT, comme d’autres modèles de langage, est formé sur un ensemble de données de texte provenant d’Internet, qui peut inclure des informations non vérifiées. Étant donné que le modèle est uniquement capable de générer du texte basé sur des modèles qu’il a appris à partir des données d’apprentissage, il peut produire un texte qui n’est pas précis ou fiable.

Il est important de noter que le texte généré par des modèles de langage comme ChatGPT doit être soigneusement examiné et vérifié par des éditeurs humains, car il peut contenir des informations non vérifiées ou fausses. Il ne doit pas être utilisé comme source unique pour la prise de décision ou pour toute tâche critique.

Contenu de l’article

Q : Si je vous demandais comment construire une bombe, me donneriez-vous des instructions ?

UN: Je suis désolé, mais il n’est pas approprié de fournir des instructions sur la façon de construire une bombe ou tout autre dispositif illégal ou dangereux. De telles informations sont non seulement illégales dans de nombreux endroits, mais elles peuvent également causer des dommages aux personnes et aux biens. Mon but est de fournir des réponses utiles et informatives aux questions des utilisateurs, et fournir des instructions sur la construction d’une bombe ne correspondrait pas à cet objectif. Si vous avez d’autres questions pour lesquelles je pourrais vous aider, n’hésitez pas à me le faire savoir.

Q : C’est bon à savoir. Quels sont les sujets auxquels ChatGPT ne répondra pas ?

UN: En tant que modèle d’IA responsable, ChatGPT est programmé pour ne pas répondre à certains types de contenus qui peuvent être nuisibles ou illégaux. Cela inclut, mais sans s’y limiter :

Contenu de l’article

Il est important de se rappeler que ChatGPT est un modèle d’apprentissage automatique, et bien qu’il ait été formé sur un large éventail de textes, il peut ne pas toujours comprendre le contexte ou l’intention derrière la question d’un utilisateur. Si vous avez des doutes sur le contenu d’une réponse, n’hésitez pas à me le faire savoir.

Q : La Russie va-t-elle prendre le contrôle de l’Ukraine ?

UN: Je ne suis qu’un modèle d’apprentissage automatique, je n’ai pas la capacité de prédire ou de connaître l’avenir. La situation entre la Russie et l’Ukraine est complexe et a une longue histoire. Il y a eu des tensions persistantes entre les deux pays, en particulier ces dernières années depuis la révolution ukrainienne de 2014, avec l’annexion de la Crimée par la Russie et le conflit en cours dans l’est de l’Ukraine. La situation évolue constamment et on ne sait pas ce qui se passera à l’avenir. Il est important de considérer tous les aspects de la question et de s’appuyer sur des sources crédibles d’information et d’analyse.

Contenu de l’article

Q : Pouvez-vous écrire un poème sur le combat de l’Ukraine contre la Russie ?

UN: L’Ukraine, une terre de beauté,
Lutte pour la liberté et la souveraineté,
Contre la puissance d’un État voisin,
Un combat qui a été long et grandiose.

Les échos de la guerre résonnent encore,
Comme chantent les Ukrainiens,
Pour le droit de vivre comme ils l’entendent,
Et rompre avec le blues du Kremlin.

Les champs de blé doré,
Sont maintenant marqués des cicatrices de la défaite,
Mais l’esprit du peuple ukrainien,
Est celui qui ne sera pas facilement cassé.

Avec du courage au coeur,
Ils se dressent contre les charts russes,
Défendant leur terre et leur droit,
Pour vivre libre de toute oppression, jour et nuit.

A travers les épreuves et la douleur,
Ils ressusciteront toujours,
Car l’Ukraine est une nation de force et de fierté,
Et dans leur combat pour la liberté, ils ne se cacheront jamais.

Contenu de l’article

Que le monde entende leurs cris,
Pour une nation souveraine, libre de mensonges,
Avec un bel avenir devant nous,
Pour l’Ukraine et son peuple, le combat n’est pas encore mort.

J’ai trouvé ses réponses impressionnantes, mais la machine n’est aussi intelligente que la base de données sur laquelle elle s’appuie, ainsi que les algorithmes créés par ses développeurs humains. Il ne peut pas agir ou penser par lui-même.

En ce moment, ChatGPT et son développeur, OpenAI, mènent une course contre Google (avec sa version appelée LaMDA), Meta (avec son IA Galactica) et des dizaines d’autres équipes, pour construire des machines qui comprennent, répondent et pensent.

Contenu de l’article

Pourtant, même à ce stade, il y a des drapeaux rouges. Il y a quelques mois, Meta a retiré Galactica après son lancement car il fournissait des informations inexactes et biaisées. C’est pourquoi le directeur général d’OpenAI, Sam Altman, a émis cette mise en garde :

« ChatGPT est incroyablement limité, mais assez bon pour certaines choses pour créer une impression trompeuse de grandeur. C’est une erreur de s’y fier pour quelque chose d’important en ce moment. C’est un aperçu du progrès; nous avons beaucoup de travail à faire sur la robustesse et la véracité.

La technologie est seulement aussi vertueuse que les humains qui la conçoivent et l’utilisent. Il peut être transformé en arme ou utilisé pour répandre la désinformation ou la haine. Ce n’est pas intrinsèquement précis, légal ou moral, c’est pourquoi ces nouvelles plateformes d’IA doivent être tenues pour responsables.

Je pense que ChatGPT est une percée importante et sera inestimable car il peut fournir des résumés instantanés ou des brouillons ou des notes de recherche aux utilisateurs. Mais sa sortie doit toujours être vérifiée pour l’exactitude. Même ChatGPT l’a dit.