Parmi les premières sociétés d’IA que la Federal Trade Commission a dénoncées comme trompant les consommateurs, on trouve DoNotPay, qui était initialement présenté comme « le premier robot avocat au monde » avec la capacité de « poursuivre n’importe qui en justice en cliquant sur un bouton ».
Mercredi, la FTC a annoncé qu’elle avait pris des mesures pour empêcher DoNotPay de faire de fausses déclarations après avoir appris que la startup d’IA n’avait effectué aucun test « pour déterminer si le résultat de son chatbot IA était égal au niveau d’un avocat humain ». DoNotPay n’a pas non plus « embauché ou retenu les services d’avocats » pour aider à vérifier les résultats de l’IA ou à valider les réclamations légales de DoNotPay.
DoNotPay n’accepte aucune responsabilité. Mais pour régler les accusations selon lesquelles DoNotPay aurait violé la loi FTC, la startup AI a accepté de payer 193 000 $ si l’accord de consentement de la FTC est confirmé après une période de commentaires publics de 30 jours. De plus, DoNotPay a accepté d’avertir « les consommateurs abonnés au service entre 2021 et 2023 » des « limitations des fonctionnalités liées à la loi sur le service », a indiqué la FTC.
À l’avenir, il serait également interdit à DoNotPay, en vertu du règlement, de prétendre sans fondement que l’une de ses fonctionnalités peut être remplacée par un service professionnel.
Un porte-parole de DoNotPay a déclaré à Ars que la société « est heureuse d’avoir travaillé de manière constructive avec la FTC pour régler cette affaire et résoudre pleinement ces problèmes, sans admettre sa responsabilité ».
« La plainte concerne l’utilisation de quelques centaines de clients il y a quelques années (sur des millions de personnes), avec des services qui ont été interrompus depuis longtemps », a déclaré le porte-parole de DoNotPay.
Le règlement de la FTC avec DoNotPay fait partie d’un effort plus large de l’agence visant à réprimer les réclamations trompeuses liées à l’IA. Quatre autres sociétés d’IA ont fait l’objet de mesures coercitives mercredi, a indiqué la FTC, et la présidente de la FTC, Lina Khan, a confirmé que la soi-disant « Opération AI Comply » de l’agence continuerait de surveiller les tentatives des entreprises visant à « attirer les consommateurs dans de faux stratagèmes » ou à utiliser des outils d’IA. à la « tromperie du turbocompresseur ».
« L’utilisation d’outils d’IA pour tromper, induire en erreur ou escroquer les gens est illégale », a déclaré Khan. « Les mesures coercitives de la FTC montrent clairement qu’il n’existe aucune exemption en matière d’IA des lois en vigueur. En réprimant les pratiques déloyales ou trompeuses sur ces marchés, la FTC veille à ce que les entreprises honnêtes et les innovateurs puissent obtenir une chance équitable et que les consommateurs soient protégés.
DoNotPay n’a jamais testé le robot avocat
DoNotPay a été initialement lancé en 2015 comme moyen gratuit de contester les contraventions de stationnement. Peu de temps après, elle a rapidement étendu ses services pour couvrir 200 domaines du droit, en aidant dans tous les domaines, des réclamations pour rupture de contrat aux ordonnances restrictives, en passant par les réclamations d’assurance et les règlements de divorce.
À mesure que les services juridiques de DoNotPay se développaient, l’entreprise a défendu son approche innovante du remplacement des avocats tout en reconnaissant qu’elle se trouvait probablement sur un terrain fragile. En 2018, Joshua Browder, PDG de DoNotPay, a confirmé à l’ABA Journal que les services juridiques étaient fournis « sans la supervision d’un avocat ». Mais il a déclaré qu’il était seulement « un peu inquiet » des menaces de poursuivre DoNotPay en justice pour pratique non autorisée du droit. Étant donné que DoNotPay était gratuit, il espérait pouvoir éviter certaines contestations judiciaires.
Selon la plainte de la FTC, DoNotPay a commencé à facturer 36 $ à ses abonnés tous les deux mois en 2019, tout en faisant plusieurs fausses déclarations dans les publicités pour apparemment faire augmenter les abonnements.