Lors d’une audience du Congrès mardi consacrée au travail de la Federal Trade Commission visant à protéger les consommateurs américains contre la fraude et d’autres pratiques trompeuses, la présidente de la FTC, Lina Khan, et ses collègues commissaires ont averti les représentants de la Chambre du potentiel des technologies d’IA modernes, comme ChatGPT, à utiliser pour » fraude « turbocompresser ». L’avertissement a été émis en réponse à une enquête sur la manière dont la Commission travaillait pour protéger les Américains contre les pratiques déloyales liées aux avancées technologiques.
Khan a répondu en convenant que l’IA présentait de nouveaux risques à gérer pour la FTC, malgré les autres avantages qu’elle pouvait présenter.
« L’IA présente tout un ensemble d’opportunités, mais présente également tout un ensemble de risques », a déclaré Khan aux représentants de la Chambre. « Et je pense que nous avons déjà vu comment il pourrait être utilisé pour accélérer la fraude et les escroqueries. Nous avons averti les acteurs du marché que les cas dans lesquels des outils d’IA sont effectivement conçus pour tromper les gens peuvent les exposer à une action de la FTC », a-t-elle déclaré.
Khan a en outre averti que la capacité de l’IA à accélérer la fraude devrait être considérée comme une « préoccupation sérieuse ».
Pour aider à lutter contre le problème, le président de la FTC a noté que ses technologues étaient intégrés dans le travail de l’agence, tant du côté de la protection des consommateurs que du côté de la concurrence, pour garantir que tout problème lié à l’IA serait correctement identifié et traité.
Dans un suivi, la commissaire de la FTC, Rebecca Slaughter, a minimisé les remarques de Khan en expliquant que la FTC s’était adaptée aux nouvelles technologies au fil des ans et avait l’expertise pour s’adapter à nouveau pour lutter contre la fraude alimentée par l’IA.
« Il y a beaucoup de bruit autour de l’IA en ce moment et c’est important parce que c’est [a] une technologie révolutionnaire à certains égards », a déclaré Slaughter. « Mais notre obligation est de faire ce que nous avons toujours fait – qui est d’appliquer les outils dont nous disposons à ces technologies en évolution, de nous assurer que nous avons l’expertise pour le faire efficacement, mais de ne pas être effrayés par l’idée que c’est une nouvelle technologie révolutionnaire, et creuser directement dans la protection des personnes », a-t-elle déclaré.
Le témoignage de la Commission, livré par Khan, Slaughter et le commissaire Alvaro Bedoya, a été présenté devant le sous-comité de l’énergie et du commerce de la Chambre sur l’innovation, les données et le commerce, et a abordé un large éventail de sujets au-delà de l’IA.
Parmi ceux qui ont recoupé la technologie, les représentants de l’agence ont détaillé dans leur témoignage écrit le travail de la FTC pour réduire le fléau des appels téléphoniques indésirables ; son avertissement à l’acheteur de maison en ligne Opendoor concernant ses allégations trompeuses sur les prix de vente potentiels ; les affirmations trompeuses faites par les membres de la communauté crypto ; son travail pour protéger les données de santé privées des consommateurs collectées par les sites Web et les applications ; sa gestion des violations de la COPPA (loi sur la protection de la vie privée des enfants) commises par le fabricant de Fortnite Epic Games ; ses commandes à la plateforme d’apprentissage en ligne Chegg pour son incapacité à protéger les données personnelles ; sa lutte contre les frais indésirables et l’incapacité pour les consommateurs d’annuler facilement les abonnements ; les pratiques trompeuses dans l’économie des concerts ; et plus.
L’agence a également noté qu’elle avait lancé un nouveau Bureau de la technologie (OT) en février dans le but de soutenir le travail d’application de la loi et de politique de l’agence en offrant une expertise technique interne, ce qui pourrait l’aider à suivre le rythme des changements technologiques. Le témoignage de la FTC a spécifiquement fait référence à l’accent mis par l’OT dans des domaines tels que la sécurité et la confidentialité, les marchés numériques, la réalité augmentée et virtuelle, l’économie du travail à la demande et les technologies de suivi des publicités, en plus de la « prise de décision automatisée », ou ce qui pourrait inclure l’IA.
« La création de l’Office of Technology s’appuie sur les efforts déployés par la FTC au fil des ans pour étendre son expertise technologique interne, et elle aligne l’agence sur les autres principaux responsables de l’application des lois antitrust et de la protection des consommateurs dans le monde », a déclaré la FTC.