Images Getty | Gagner McNamee
OpenAI, mieux connu pour son assistant ChatGPT AI, a fait l’objet d’un examen minutieux par la Federal Trade Commission (FTC) des États-Unis pour des allégations selon lesquelles il aurait violé les lois sur la protection des consommateurs, mettant potentiellement en danger les données personnelles et la réputation, selon le Washington Post et Reuters.
Dans le cadre de l’enquête, la FTC a envoyé une demande d’enregistrement de 20 pages à OpenAI qui se concentre sur les stratégies de gestion des risques de l’entreprise concernant ses modèles d’IA. L’agence enquête pour savoir si l’entreprise s’est livrée à des pratiques trompeuses ou déloyales, entraînant une atteinte à la réputation des consommateurs.
L’enquête cherche également à comprendre comment OpenAI a abordé le potentiel de ses produits à générer des déclarations fausses, trompeuses ou désobligeantes sur de vrais individus. Dans l’industrie de l’IA, ces fausses générations sont parfois appelées « hallucinations » ou « confabulations ».
En particulier, le Washington Post spécule que l’accent mis par la FTC sur les déclarations trompeuses ou fausses est une réponse aux incidents récents impliquant ChatGPT d’OpenAI, comme un cas où il aurait fabriqué des allégations diffamatoires à propos de Mark Walters, un animateur de talk-show radio de Géorgie. L’assistant d’IA a faussement déclaré que Walters était accusé de détournement de fonds et de fraude liés à la Fondation du deuxième amendement, ce qui a incité Walters à poursuivre OpenAI pour diffamation. Un autre incident impliquait le modèle d’IA affirmant à tort qu’un avocat avait fait des commentaires sexuellement suggestifs lors d’un voyage étudiant en Alaska, un événement qui ne s’est jamais produit.
La sonde FTC marque un défi réglementaire important pour OpenAI, qui a suscité autant d’excitation, de peur et de battage médiatique dans l’industrie technologique après la sortie de ChatGPT en novembre. Tout en captivant le monde de la technologie avec des produits alimentés par l’IA que beaucoup de gens pensaient auparavant être à des années ou des décennies, les activités de l’entreprise ont soulevé des questions concernant les risques potentiels associés aux modèles d’IA qu’ils produisent.
Alors que la pression de l’industrie pour des modèles d’IA plus performants s’intensifie, les agences gouvernementales du monde entier ont examiné de plus près ce qui se passait dans les coulisses. Face à l’évolution rapide de la technologie, les régulateurs tels que la FTC s’efforcent d’appliquer les règles existantes pour couvrir les modèles d’IA, du droit d’auteur et de la confidentialité des données à des problèmes plus spécifiques concernant les données utilisées pour former ces modèles et le contenu qu’ils génèrent.
En juin, Reuters a rapporté que le chef de la majorité au Sénat américain, Chuck Schumer (D-NY), avait appelé à une « législation complète » pour superviser les progrès de la technologie de l’IA, en veillant à ce que les garanties nécessaires soient en place. Schumer prévoit d’organiser une série de forums sur le sujet plus tard cette année, note l’agence de presse.
Ce n’est pas le premier obstacle réglementaire pour OpenAI. La société a fait face à des réactions négatives en Italie en mars, lorsque les régulateurs ont bloqué ChatGPT suite à des accusations selon lesquelles OpenAI avait enfreint les règles de confidentialité GDPR de l’Union européenne. Le service ChatGPT a ensuite été rétabli après qu’OpenAI a accepté d’intégrer des fonctionnalités de vérification de l’âge et de fournir aux utilisateurs européens la possibilité d’empêcher l’utilisation de leurs données pour former le modèle d’IA.
OpenAI dispose de deux semaines après réception de la demande pour programmer un appel avec la FTC afin de discuter d’éventuelles modifications de la demande ou de problèmes de conformité.