Internet a toujours été rempli de désinformation, mais au moins, il n’a pas été difficile de séparer les faits de la fiction avec un peu d’effort. L’essor des outils sophistiqués d’intelligence artificielle a changé cela pour toujours, rendant le scepticisme plus important que jamais.
Faux faux
Le mot « deepfake » comprend toute une famille de technologies qui partagent toutes l’utilisation de réseaux de neurones d’apprentissage en profondeur pour atteindre leurs objectifs individuels. Les deepfakes ont attiré l’attention du public lorsque le remplacement du visage de quelqu’un dans une vidéo est devenu facile. Donc, quelqu’un pourrait remplacer le visage d’un acteur par celui du président américain ou remplacer la bouche du président seul et lui faire dire des choses qui ne se sont jamais produites.
Pendant un certain temps, un humain devrait se faire passer pour la voix, mais la technologie deepfake peut également reproduire les voix. La technologie Deepfake peut désormais être utilisée en temps réel, ce qui ouvre la possibilité qu’un pirate ou un autre acteur de mauvaise foi puisse se faire passer pour quelqu’un lors d’un appel vidéo ou d’une diffusion en temps réel. N’importe quel Les « preuves » vidéo que vous voyez sur Internet doivent être traitées comme un deepfake potentiel jusqu’à ce qu’elles soient vérifiées.
Génération d’images IA
Les générateurs d’images d’IA ont fait sensation dans la communauté des artistes pour toutes les implications que cela a pour ceux qui gagnent leur vie en tant qu’artistes et si les artistes commerciaux risquent d’être remplacés. Ce qui ne suscite pas autant de débats, c’est le potentiel de désinformation grâce à cette technologie.
Les systèmes de génération d’images IA peuvent produire des images photoréalistes sur tout le tissu à l’aide d’invites textuelles, d’exemples d’images et d’images originales à des fins de manipulation. Par exemple, vous pouvez effacer certaines parties d’une image originale, puis utiliser une technique connue sous le nom de « inpainting » pour que l’IA remplace la partie effacée de l’image par tout ce que vous souhaitez. Il est facile de générer des images sur votre propre PC avec un logiciel comme Stable Diffusion.
Si vous vouliez donner l’impression que quelqu’un tenait un vrai pistolet au lieu d’un jouet, c’est trivial pour l’IA. Vous voulez créer une photo scandaleuse d’une célébrité ? La génération d’images AI (et les deepfakes d’ailleurs) peuvent être abusées de cette manière. Vous pouvez même générer des visages photoréalistes de personnes qui n’existent pas.
Génération vidéo IA
La génération d’images AI et les deepfakes ne sont que le début. Meta (la société mère de Facebook) a déjà démontré la génération de vidéos par IA, et bien que seules quelques secondes de séquences puissent être générées au fil du temps, nous nous attendons à ce que la longueur de la vidéo et la quantité de contrôle que les utilisateurs auront sur le contenu de la vidéo seront développer de façon exponentielle.
Pour l’instant, il est tout à fait possible qu’une IA génère simplement un clip granuleux de Bigfoot ou de Nessie sans que personne ne se déguise ou ne s’envole pour l’Écosse avec une caméra et un petit modèle en bois. La vidéo a toujours été facile à manipuler avant que la génération de vidéo AI ne soit possible. Cependant, vous ne pouvez désormais plus faire confiance à aucune vidéo que vous voyez.
Chatbots IA
Lorsque vous discutez avec le support client, vous parlez à une machine plutôt qu’à un être humain. La technologie de l’IA (et les méthodes de programmation traditionnelles) sont suffisamment bonnes pour que les machines aient des conversations sophistiquées avec nous, surtout si c’est dans un domaine restreint comme obtenir un remplacement sous garantie ou si vous avez une question technique à propos de quelque chose.
La reconnaissance et la synthèse vocales sont également à un stade avancé, et si vous regardez des démos pour des systèmes tels que Google Duplex , vous aurez une idée réelle de la direction que nous prenons avec cela. Une fois que vous avez lancé des robots alimentés par l’IA sur les plateformes de médias sociaux, le potentiel de campagnes de désinformation concertées avec des conséquences réelles devient élevé.
Pour être juste, les plateformes de médias sociaux telles que Twitter ont toujours eu un problème de bot, mais en général, ces bots n’étaient pas sophistiqués. Il est maintenant concevable que vous puissiez créer une personne maquillée sur les réseaux sociaux qui trompera à peu près n’importe qui. Ils pourraient même utiliser d’autres technologies de cette liste pour créer des images, de l’audio et de la vidéo afin de « prouver » qu’ils sont réels.
Écrivains IA
Nous allons sur Internet pour obtenir des informations sur le monde et pour savoir ce qui se passe dans le monde. Les rédacteurs humains (c’est-à-dire nous !) sont une source clé de ces informations, mais les rédacteurs IA deviennent assez bons pour produire un travail de qualité similaire.
Tout comme avec les artistes de l’IA, il y a un débat pour savoir si un tel logiciel remplacera les gens qui écrivent pour gagner leur vie, mais encore une fois, il y a un angle de désinformation qui est largement ignoré.
Si vous pouvez créer un visage original, créer un bot de personnage de médias sociaux, créer une vidéo et une voix mettant en vedette votre personne maquillée, il devient possible de créer une publication entière du jour au lendemain. Les sites Web d' »actualités » douteux sont déjà une source de désinformation convaincante pour de nombreux internautes, mais une technologie d’IA comme celle-ci peut aggraver ce problème.
Le problème de la détection
Ces technologies ne sont pas seulement un problème car elles ouvrent de nouvelles voies d’abus, elles sont également un problème car la détection de la contrefaçon peut être difficile. Les deepfakes atteignent déjà le point où même les experts ont du mal à distinguer ce qui est faux et ce qui ne l’est pas. C’est pourquoi ils combattent le feu par le feu et utilisent la technologie de l’IA pour détecter les images générées ou manipulées, en recherchant des signes révélateurs invisibles à l’œil humain.
Cela fonctionnera pendant un certain temps, mais cela pourrait également créer une course aux armements IA involontaire qui pourrait ironiquement pousser les technologies qui créent du faux contenu à des niveaux de fidélité plus élevés. La seule stratégie sensée pour nous en tant qu’êtres humains est de supposer que tout ce que nous voyons sur Internet, à moins qu’il ne provienne d’une source vérifiée avec des processus et des politiques transparents, doit être traité comme faux jusqu’à preuve du contraire. (Bien que nous doutions que votre oncle théoricien du complot croie que les vidéos d’OVNI qu’il continue de vous envoyer ne sont pas réelles.)