Le FBI a émis un avertissement à tous les internautes que les cybercriminels peuvent utiliser leurs photos pour créer des deepfakes illicites et indécents à des fins de chantage.
L’avis décrit « des acteurs malveillants créant du contenu synthétique… en manipulant des photographies ou des vidéos bénignes pour cibler les victimes », qu’il attribue à l’intelligence artificielle.
Bien que ChatGPT n’ait été accessible au public que depuis un peu plus de six mois, et d’autres outils beaucoup moins, le FBI a déjà reçu des rapports de victimes, y compris des enfants, dont les photos ou vidéos avaient été modifiées en contenu explicite.
Le FBI met en garde contre les faux nus
Des photos de victimes inconscientes seraient prises dans des bibliothèques publiques, telles que des profils de médias sociaux, et modifiées artificiellement afin qu’elles apparaissent fidèles à la réalité et de nature indécente. Les photos générées par l’IA sont ensuite diffusées sur des sites pornographiques ou d’autres sites Web légitimes à des fins de chantage.
Le rapport compare l’avancée inquiétante à la sextorsion : « contraindre les victimes à fournir des photos ou des vidéos sexuellement explicites d’elles-mêmes, puis menacer de les partager publiquement ou avec la famille et les amis de la victime ».
Depuis avril 2023, davantage de ces schémas de sextorsion par IA ont été observés, les cybercriminels exigeant alors soit un paiement, soit des images ou des vidéos légitimes à thème sexuel en retour.
Le FBI affirme que les deepfakes indécents laissent les victimes vulnérables à l’embarras, au harcèlement, à l’extorsion, à la perte financière ou à la revictimisation continue à long terme.
Les citoyens du monde entier sont invités à faire preuve de discrétion lorsqu’ils posent des médias sur eux-mêmes en ligne et à utiliser des mesures de sécurité et de confidentialité strictes. Les victimes potentielles et les personnes concernées peuvent également effectuer des recherches d’images inversées, rechercher leurs noms et d’autres détails sur les moteurs de recherche et surveiller d’autres activités en ligne.
Ces progrès de l’intelligence artificielle obligent les fournisseurs de services de sécurité – y compris ceux à l’origine du meilleur logiciel de protection des terminaux et de la meilleure protection contre le vol d’identité – à rattraper leur retard à un rythme alarmant.
Pour l’instant, les victimes sont invitées à signaler ces deepfakes au Centre de plainte contre la criminalité sur Internetle Bureau de terrain (ou par téléphone : 1-800-CALL-FBI), ou au Centre national pour les enfants disparus et exploités (1-800-LES PERDUS).