La FTC serait au moins dans la phase exploratoire de l’enquête sur OpenAI pour savoir si l’IA conversationnelle ChatGPT phare de l’entreprise a fait des déclarations « fausses, trompeuses, désobligeantes ou nuisibles » sur les gens. Il semble peu probable que cela conduise à une répression soudaine, mais cela montre que la FTC fait plus qu’avertir l’industrie de l’IA des violations potentielles.
Le Washington Post a d’abord rapporté la nouvelle, citant l’accès à une lettre de 20 pages adressée à OpenAI demandant des informations sur les plaintes pour dénigrement. La FTC a refusé de commenter, notant que ses enquêtes ne sont pas publiques.
En février, le régulateur a annoncé la création d’un nouveau Bureau de la technologie pour s’attaquer à l' »huile de serpent » du secteur technologique et, peu de temps après, a averti les entreprises faisant des déclarations sur l’IA qu’elles étaient soumises aux mêmes exigences de vérité que n’importe qui d’autre. « Gardez vos réclamations d’IA sous contrôle », ont-ils écrit – ou la FTC le fera.
Bien que la lettre rapportée par la poste ne soit pas la première fois que l’agence prend l’une des nombreuses formes d’IA, elle semble annoncer que l’actuel leader mondial incontesté dans le domaine, OpenAI, doit être prêt à se justifier.
Ce type d’enquête n’apparaît pas simplement de nulle part – la FTC ne regarde pas autour d’elle et ne dit pas : « Cela semble suspect ». Généralement, une poursuite ou une plainte formelle est portée à leur attention et les pratiques qui y sont décrites impliquent que les réglementations sont ignorées. Par exemple, une personne peut poursuivre une société de suppléments parce que les pilules l’ont rendue malade, et la FTC lancera une enquête à la suite de cela, car il existe des preuves que la société a menti sur les effets secondaires.
Dans ce cas, il y a une forte probabilité qu’un procès comme celui-ci, dans lequel un maire australien s’est plaint à OpenAI que ChatGPT a déclaré qu’il avait été accusé de corruption et condamné à une peine de prison, entre autres, pourrait déclencher une enquête. (Cette affaire est en cours et bien sûr la juridiction est mauvaise, mais il y en a presque certainement d’autres comme celle-ci.)
La publication de telles choses pourrait constituer une diffamation ou une diffamation ou simplement une «atteinte à la réputation», comme les appellerait la lettre actuelle de la FTC à OpenAI. C’est presque certainement ChatGPT en cause car c’est le seul produit vraiment public du portefeuille d’OpenAI qui pourrait faire une telle chose – GPT-4 et les autres API sont un peu trop verrouillés (et sont trop récents) pour être pris en compte.
Ce n’est pas un slam dunk : les aspects techniques à eux seuls remettent en question si cela compte comme une publication ou un discours ou même autre chose qu’une communication privée – tout cela devrait être prouvé.
Mais ce n’est pas non plus une chose folle de demander à une entreprise de s’expliquer. C’est une chose de faire une erreur, une autre d’inventer systématiquement et de manière indétectable des détails sur les gens, à grande échelle, et de ne rien dire à ce sujet. Si le correcteur orthographique de Microsoft Word ajoutait occasionnellement « criminel condamné » devant les noms des personnes, vous feriez mieux de croire qu’il y aurait un tollé.
Bien que la FTC ait récemment subi quelques défaites très médiatisées sous la forme de ses efforts anti-fusion dirigés contre Meta et Microsoft abattus, elle a également cloué des entreprises technologiques pour des problèmes de confidentialité et même des violations adjacentes à l’IA.