Le PDG de Microsoft, Satya Nadella, s’est prononcé sur les deepfakes explicites de Taylor Swift générés par l’IA qui sont devenus viraux sur les réseaux sociaux cette semaine.
Dans une interview avec Lester Holt, présentateur de NBC News, interrogé sur les images Swift, Nadella a déclaré : « Tout d’abord, c’est absolument alarmant et terrible, et donc oui, nous devons agir, et franchement, nous tous dans le secteur de la technologie. plate-forme, quelle que soit votre position sur une question particulière, je pense que nous bénéficions tous lorsque le monde en ligne est un monde sûr.
« Je ne pense pas que quiconque voudrait d’un monde en ligne qui ne soit absolument pas sûr, tant pour les créateurs de contenu que pour les consommateurs de contenu », a déclaré Nadella dans l’interview. « Je pense donc qu’il nous incombe d’agir rapidement sur ce point. »
Interrogée sur les conséquences de l’IA, Nadella a dénoncé « toutes les barrières de sécurité que nous devons placer autour de la technologie afin qu’un contenu plus sûr soit produit ». Et il y a beaucoup à faire et beaucoup de choses sont faites là-bas. Le PDG de Microsoft a déclaré que « les forces de l’ordre et les plateformes technologiques » peuvent travailler ensemble et que « je pense que nous pouvons gouverner bien plus que ce que nous nous accordons ».
Le propre logiciel de Microsoft a peut-être joué un rôle dans la création des contrefaçons Swift. Les fausses images de la pop star pourraient provenir d’un groupe sur Telegram dont les utilisateurs partagent des images pornographiques de femmes générées par l’IA, selon un rapport de 404 Media. L’un des outils utilisés par les membres du groupe est Microsoft Designer, un générateur d’images gratuit basé sur l’IA, en employant des solutions de contournement qui contournent ses mécanismes de sécurité qui interdisent le contenu graphique à caractère sexuel, selon le rapport.
Par ailleurs, vendredi, la SAG-AFTRA a publié une déclaration condamnant les fausses images de Swift comme étant « bouleversantes, nuisibles et profondément préoccupantes » et a déclaré que « le développement et la diffusion de fausses images – en particulier celles de nature obscène – sans le consentement de quelqu’un doivent être rendus illégaux ».
À ce jour, Microsoft a investi plus de 13 milliards de dollars dans OpenAI, basé à San Francisco, l’organisme de recherche qui a créé le chatbot IA ChatGPT. Plus tôt ce mois-ci, le Times a intenté une action en justice contre OpenAI et Microsoft, accusant les sociétés de violation du droit d’auteur pour avoir prétendument utilisé du matériel appartenant au Times pour former ChatGPT et réclamant des milliards de dollars de dommages et intérêts.
D’autres extraits de l’interview de Holt avec Nadella devraient être diffusés le mardi 30 janvier sur « NBC Nightly News » à 18h30 HE/17h30 CT.