Getty Images | Bloomberg
L’ancien avocat de Donald Trump, Michael Cohen, a admis avoir fourni de fausses citations judiciaires générées par l’IA à son propre avocat, qui n’a pas vérifié si les cas cités étaient réels avant de les soumettre dans un mémoire judiciaire. Cohen a déclaré que les fausses affaires judiciaires provenaient de Google Bard et qu’il pensait que Bard était comme « un moteur de recherche suralimenté » plutôt qu’un outil d’IA générative.
Comme indiqué précédemment, l’avocat de Cohen, David Schwartz, a cité trois cas qui n’existent pas dans une requête demandant la cessation anticipée de la liberté surveillée de Cohen. Les fausses citations visaient à montrer des cas antérieurs dans lesquels des accusés ont été autorisés à mettre fin plus tôt à leur libération surveillée : deux impliquaient des distributeurs de cocaïne fictifs et l’autre un fraudeur fiscal inventé.
Le mémoire fournissait les numéros des affaires, les résumés et les dates de décision pour les citations, mais le juge a déterminé que les affaires n’avaient jamais eu lieu. Face à une sanction pour violation des règles fédérales, Schwartz a déposé une explication dans laquelle il s’excusait « de ne pas avoir personnellement vérifié ces cas avant de les soumettre au tribunal », mais accusait également « la conduite de son client ».
Une réponse la semaine dernière de l’autre avocat de Cohen, E. Danya Perry, a déclaré que « les souvenirs de M. Schwartz des événements sont largement cohérents avec ceux de M. Cohen… Pour résumer : M. Cohen a fourni à M. Schwartz des citations (et des résumés de cas). ) qu’il avait trouvé en ligne et qu’il croyait être réel. M. Schwartz les a ajoutés à la requête mais n’a pas vérifié ces citations ou résumés. En conséquence, M. Schwartz a déposé par erreur une requête avec trois citations qui, à l’insu de M. Schwartz ou M. Cohen à l’époque – faisait référence à des cas inexistants.
Perry, qui a fait sa première comparution dans l’affaire une semaine après le mémoire du 29 novembre qui comprenait de faux cas, a noté qu’elle « avait alerté la Cour sur des problèmes probables avec les citations de M. Schwartz » après avoir découvert les cas inexistants. L’affaire Cohen est portée devant le tribunal de district américain du district sud de New York.
« Pour être clair, M. Cohen ne savait pas que les cas qu’il avait identifiés n’étaient pas réels et, contrairement à son avocat, il n’avait aucune obligation de le confirmer. Même si rien n’implique le contraire, il faut souligner que M. Cohen n’a commis aucune faute », a écrit Perry.
Cohen a été radié du barreau il y a 5 ans
Le dossier de Perry comprenait une déclaration de Cohen, qui a purgé une peine de prison après avoir plaidé coupable à cinq chefs d’accusation d’évasion fiscale, de fausses déclarations à une banque, de contribution excessive à la campagne et d’avoir causé une contribution illégale d’entreprise. Les accusations portées contre Cohen comprenaient des paiements à deux femmes pour les empêcher de publier des allégations sur des relations avec Trump avant l’élection présidentielle de 2016.
« Je dois compter sur mes avocats dans cette affaire parce que j’ai été radié du barreau il y a près de cinq ans ; les litiges de ce type ne représentaient pas une partie significative de ma pratique avant cette date ; et je n’ai actuellement pas accès à Westlaw ou à une base de données juridique similaire pour effectuer des recherches. ou vérifier la jurisprudence pertinente », a écrit Cohen la semaine dernière.
Cohen n’était pas satisfait de la première ébauche de la motion de Schwartz et a demandé à Perry, qui l’avait représenté dans des affaires sans rapport, de l’examiner. Cohen a déclaré qu’il avait envoyé par SMS les notes de Perry à Schwartz et fourni plusieurs « citations et descriptions » [that] vient de Google Bard. » Cohen a expliqué qu’il avait mal compris ce qu’est Google Bard :
En tant que non-avocat, je n’ai pas suivi les tendances émergentes (et les risques associés) en matière de technologie juridique et je n’ai pas réalisé que Google Bard était un service de texte génératif qui, comme Chat-GPT, pouvait afficher des citations et des descriptions qui semblaient réelles mais qui l’étaient en réalité. pas. Au lieu de cela, je considérais qu’il s’agissait d’un moteur de recherche surpuissant et je l’avais utilisé à plusieurs reprises dans d’autres contextes pour trouver (avec succès) des informations précises en ligne. Je ne savais pas que Google Bard pouvait générer des cas inexistants, et je n’avais pas non plus accès à Westlaw ou à d’autres ressources standard pour confirmer les détails des cas. Au lieu de cela, j’ai fait confiance à M. Schwartz et à son équipe pour examiner mes ajouts suggérés avant de les incorporer.
L’incident n’est pas sans rappeler un précédent dans le même tribunal de district, dans lequel un juge a imposé une amende de 5 000 $ à deux avocats et à leur cabinet d’avocats après avoir admis avoir utilisé ChatGPT pour aider à rédiger des documents judiciaires citant six cas inexistants inventés par le chatbot IA.