Les régulateurs américains semblent maintenant réprimer sérieusement l’IA générative. Le Washington Post a appris que la Federal Trade Commission (FTC) a lancé une enquête sur OpenAI, le créateur de ChatGPT et DALL-E. Les responsables ont demandé des documents montrant comment l’entreprise s’attaque aux risques découlant de ses grands modèles d’IA linguistiques. La FTC craint que l’entreprise ne viole les lois sur la protection des consommateurs par des pratiques « déloyales ou trompeuses » qui pourraient nuire à la vie privée, à la sécurité ou à la réputation du public.
La Commission est particulièrement intéressée par les informations liées à un bogue qui a divulgué les données sensibles des utilisateurs de ChatGPT, y compris les paiements et les historiques de chat. Alors qu’OpenAI a déclaré que le nombre d’utilisateurs concernés était très faible, la FTC craint que cela ne provienne de mauvaises pratiques de sécurité. L’agence veut également des détails sur toute plainte alléguant que l’IA a fait des déclarations fausses ou malveillantes sur des individus, et des informations montrant à quel point les utilisateurs comprennent l’exactitude des produits qu’ils utilisent.
Nous avons demandé à OpenAI de commenter. La FTC a refusé de commenter et ne fait généralement pas de commentaires sur les enquêtes, mais a précédemment averti que l’IA générative pourrait enfreindre la loi en faisant plus de mal que de bien aux consommateurs. Il pourrait être utilisé pour perpétrer des escroqueries, mener des campagnes de marketing trompeuses ou conduire à des publicités discriminatoires, par exemple. Si l’organisme gouvernemental trouve une entreprise en infraction, il peut infliger des amendes ou émettre des décrets de consentement qui imposent certaines pratiques.
Les lois et règles spécifiques à l’IA ne sont pas attendues dans un avenir proche. Malgré cela, le gouvernement a intensifié la pression sur l’industrie technologique. Le chef d’OpenAI, Sam Altman, a témoigné devant le Sénat en mai, où il a défendu son entreprise en décrivant les mesures de confidentialité et de sécurité tout en vantant les avantages revendiqués de l’IA. Il a déclaré que des protections étaient en place, mais qu’OpenAI serait « de plus en plus prudent » et continuerait à améliorer ses protections.
Il n’est pas clair si la FTC poursuivra d’autres développeurs d’IA générative, tels que Google et Anthropic. L’enquête OpenAI montre comment la Commission pourrait aborder d’autres cas, cependant, et signale que le régulateur est sérieux quant à l’examen des développeurs d’IA.