La FTC examine si OpenAI, le développeur du chatbot à intelligence artificielle ChatGPT, « s’est engagé dans des pratiques déloyales ou trompeuses en matière de confidentialité ou de sécurité des données ou s’est engagé dans des pratiques déloyales ou trompeuses concernant les risques de préjudice pour les consommateurs, y compris l’atteinte à la réputation », selon à une lettre que l’organisme de réglementation a envoyée à l’entreprise.
L’enquête de l’agence sur OpenAI a été rapportée pour la première fois par le Washington Post, qui a partagé une copie expurgée de la lettre à l’entreprise (sur ce lien). Le délai pour les demandes d’informations de la FTC à OpenAI basé à San Francisco date du 1er juin 2020, « jusqu’à la date de conformité pleine et entière » à l’enquête, qui est techniquement appelée « demande d’enquête civile » (CID).
Parmi les informations que la FTC demande à OpenAI, il y a une « description de tout raffinement que la société a réellement entrepris afin de corriger ou de remédier à la propension de tout grand modèle de langage à » halluciner « ou à révéler des informations personnelles », selon la lettre.
OpenAI, fondée en 2015, a introduit la première version accessible au public de ChatGPT en novembre 2022. Le chatbot est capable de générer des textes apparemment cohérents sur un large éventail de sujets – alors qu’il a parfois été démontré qu’il inventait entièrement des choses.
Suite aux reportages sur l’enquête, le PDG d’OpenAI, Sam Altman tweeté, « il est très décevant de voir la demande de la FTC commencer par une fuite et n’aide pas à instaurer la confiance. Cela dit, il est extrêmement important pour nous que notre technologie soit sûre et pro-consommateur, et nous sommes convaincus que nous respectons la loi. bien sûr, nous travaillerons avec la FTC.
Altman a poursuivi: «Nous avons construit le GPT-4 au-dessus d’années de recherche sur la sécurité et avons passé plus de 6 mois après avoir terminé la formation initiale pour le rendre plus sûr et plus aligné avant de le publier. nous protégeons la vie privée des utilisateurs et concevons nos systèmes pour en savoir plus sur le monde, et non sur les particuliers. » Il a également écrit : « nous sommes transparents sur les limites de notre technologie, en particulier lorsque nous ne parvenons pas à le faire. et notre structure de bénéfices plafonnés signifie que nous ne sommes pas incités à réaliser des rendements illimités.
Par ailleurs, OpenAI fait face à divers défis juridiques. Ceux-ci incluent une poursuite en diffamation déposée par un animateur de talk-show, qui a allégué que ChatGPT avait inventé de fausses allégations juridiques contre lui ; et un procès dans lequel Sarah Silverman fait partie des plaignants alléguant que le grand modèle de langage d’OpenAI a utilisé illégalement leurs œuvres protégées par le droit d’auteur. OpenAI n’a commenté aucune de ces poursuites.