Depuis sa création en 1914, la Federal Trade Commission des États-Unis s’est dressée comme un rempart contre la fraude, la tromperie et les transactions louches auxquelles les consommateurs américains sont confrontés chaque jour – en infligeant des amendes aux marques qui « revoient » les listes Amazon, ce qui facilite l’annulation des abonnements aux magazines et bloquer le ciblage publicitaire abusif. Lundi, Michael Atleson, avocat, Division des pratiques publicitaires de la FTC, a exposé à la fois le raisonnement de la commission sur la façon dont les systèmes d’IA générative émergents comme ChatGPT, Dall-E 2 pourraient être utilisés pour violer l’esprit d’injustice de la loi FTC, et ce qu’il ferait aux entreprises reconnues coupables d’infraction.
« En vertu de la loi FTC, une pratique est déloyale si elle cause plus de mal que de bien », a déclaré Atleson. « C’est injuste si cela cause ou est susceptible de causer un préjudice substantiel aux consommateurs qui ne peut raisonnablement être évité par les consommateurs et qui n’est pas compensé par des avantages compensatoires pour les consommateurs ou pour la concurrence. »
Il note que la nouvelle génération de chatbots comme Bing, Bard et ChatGPT peut être utilisée pour influencer « les croyances, les émotions et le comportement » de l’utilisateur. Nous les avons déjà vus employés comme négociateurs au sein du réseau d’approvisionnement de Walmart et comme thérapeutes de la parole, deux professions spécifiquement conçues pour influencer ceux qui vous entourent. Lorsqu’il est combiné avec les effets courants du biais d’automatisation, où les utilisateurs acceptent plus facilement la parole d’un système d’IA présumé impartial, et de l’anthropomorphisme. « Les gens pourraient facilement être amenés à penser qu’ils conversent avec quelque chose qui les comprend et qui est de leur côté », a expliqué Atleson.
Il admet que les problèmes entourant la technologie d’IA générative vont bien au-delà de la compétence immédiate de la FTC, mais réitère qu’elle ne tolérera pas que des entreprises sans scrupules l’utilisent pour profiter des consommateurs. « Les entreprises qui envisagent de nouvelles utilisations de l’IA générative, telles que la personnalisation des publicités pour des personnes ou des groupes spécifiques », a averti l’avocat de la FTC, « devraient savoir que les éléments de conception qui incitent les gens à faire des choix préjudiciables sont un élément commun dans les affaires de la FTC, telles que les récentes les actions liées aux offres financières, aux achats dans le jeu et aux tentatives d’annulation de services. »
Les garde-corps de la FTC s’appliquent également au placement d’annonces dans une application d’IA générative, un peu comme la façon dont Google insère des annonces dans ses résultats de recherche. « Les gens devraient savoir si la réponse d’un produit d’IA les dirige vers un site Web, un fournisseur de services ou un produit particulier en raison d’une relation commerciale », a écrit Atleson. « Et, certainement, les gens devraient savoir s’ils communiquent avec une personne réelle ou une machine. »
Enfin, Atleson a lancé un avertissement peu subtil à l’industrie technologique. « Compte tenu de ces nombreuses préoccupations concernant l’utilisation de nouveaux outils d’IA, ce n’est peut-être pas le meilleur moment pour les entreprises qui les construisent ou les déploient pour retirer ou licencier le personnel consacré à l’éthique et à la responsabilité de l’IA et de l’ingénierie », a-t-il écrit. « Si la FTC vous appelle et que vous voulez nous convaincre que vous avez correctement évalué les risques et atténué les dommages, ces réductions pourraient ne pas être bonnes. » C’est une leçon que Twitter a déjà apprise à ses dépens.
Tous les produits recommandés par Engadget sont sélectionnés par notre équipe éditoriale, indépendante de notre maison mère. Certaines de nos histoires incluent des liens d’affiliation. Si vous achetez quelque chose via l’un de ces liens, nous pouvons gagner une commission d’affiliation. Tous les prix sont corrects au moment de la publication.