Faux porno de Taylor Swift. Images photoréalistes – mais romancées – de Gaza. La liste des deepfakes déconcertants est longue et, à mesure que les outils de création de deepfakes deviennent plus faciles et moins chers à utiliser, les vagues de contrefaçons arrivent plus rapidement et plus férocement.
Selon un récent sondage du Pew Center, environ les deux tiers des Américains (66 %) déclarent qu’ils tombent au moins parfois sur des vidéos et des images modifiées destinées à induire en erreur, et 15 % d’entre eux les rencontrent souvent. Dans une enquête distincte menée auprès d’experts en IA par Axios et l’Université de Syracuse, 62 % ont déclaré que la désinformation constituerait le plus grand défi pour maintenir l’authenticité et la crédibilité des informations à l’ère du contenu généré par l’IA.
Alors quelle est la réponse ? Est-ce qu’il y a un?
Si vous parlez avec des gens comme Michael Matias, spécialiste de la cybersécurité et co-fondateur et PDG de Clarity, ils vous diront qu’il s’agit de détecteurs de deepfake. Matias a lancé Clarity avec Gil Avriel et Natalie Fridman en 2022, dans le but de développer une technologie permettant de repérer les médias manipulés par l’IA, principalement des images.
Clarity fait partie des nombreux fournisseurs, petits et grands, qui se précipitent pour développer des outils de détection des deepfakes. D’autres incluent Reality Defender, qui offre une plate-forme pour isoler les deepfakes de textes, de vidéos et d’images, et Sentinel, qui se concentre sur les images et vidéos deepfakes.
Il est en fait difficile de distinguer les offres de Clarity des autres – du moins pour cet auteur. Comme ses concurrents, Clarity dispose d’un outil d’analyse disponible via une application et une API qui exploite plusieurs modèles d’IA pour comparer les médias téléchargés (vidéos, images et audio) à une base de données de deepfakes et d’images générées par l’IA. De plus, Clarity propose une forme de filigrane que les clients peuvent utiliser pour indiquer que leur contenu est légitime.
Mais Matias insiste sur le fait que les différenciateurs ne se situent pas au-dessus mais sous la surface, avec la réponse rapide de Clarity aux nouveaux types de deepfakes.
« Essentiellement, Clarity exploite l’IA mais fonctionne comme une entreprise de cybersécurité », a déclaré Matias. « Clarity traite les deepfakes comme des virus, agissant comme des agents pathogènes qui se divisent et se reproduisent rapidement. En tant que telle, sa solution a également été conçue pour être dérivée et répliquée afin de maintenir l’adaptabilité et la résilience… L’équipe a construit une infrastructure et des modèles d’IA dédiés à la réalisation de la demande.
Bien entendu, la précision dans le domaine de la détection des deepfakes est une cible mouvante. Même avec la meilleure expertise et la meilleure pile technologique que l’argent puisse acheter, c’est un jeu impossible à gagner compte tenu de la vitesse à laquelle GenAI, les applications de création de deepfake, s’améliorent. C’est peut-être la raison pour laquelle certains acteurs majeurs, notamment Google, Microsoft et AWS, adoptent des métadonnées de filigrane et de provenance plus sophistiquées comme mesures alternatives – quoique imparfaites – contre les deepfakes.
Quoi qu’il en soit, Clarity n’a pas eu de mal à rallier des soutiens. La startup new-yorkaise de 13 employés a récemment clôturé un tour de table de 16 millions de dollars co-dirigé par Walden Catalyst Ventures et Bessemer Venture Partners avec la participation de Secret Chord Ventures, Ascend Ventures et Flying Fish Partners.
Et il semble s’être taillé une niche. Initialement, Clarity – qui vend des abonnements ainsi que des forfaits par répartition – recherchait des clients auprès des éditeurs de presse et du secteur public, y compris le gouvernement israélien. (Matias affirme que Clarity aide à authentifier et à vérifier les vidéos provenant du conflit Israël-Hamas.) Mais il a depuis été étendu aux fournisseurs de vérification d’identité et à d’autres « grandes entreprises » anonymes.
« Il s’agit d’une course aux armements rapide, tout comme la cybersécurité traditionnelle », a déclaré Matias. « Toute entreprise qui souhaite lutter contre les deepfakes doit agir aussi vite que celles qui les créent et les diffusent. »