Les parents d’un adolescent tué lors de la fusillade dans une école de Parkland en Floride en 2018 ont lancé un nouveau projet audacieux appelé The Shotline pour faire pression en faveur de lois plus strictes sur les armes à feu dans le pays. The Shotline utilise l’IA pour recréer les voix d’enfants tués par la violence armée et envoyer des enregistrements via des appels automatisés aux législateurs, Le journal de Wall Street signalé.
Le projet a été lancé mercredi, six ans après qu’un homme armé a tué 17 personnes et en a blessé plus d’une douzaine dans un lycée de Parkland, en Floride. Il présente la voix de six enfants, certains âgés d’à peine dix ans, et de jeunes adultes, qui ont perdu la vie dans des incidents de violence armée aux États-Unis. Une fois que vous avez saisi votre code postal, The Shotline trouve votre représentant local et vous permet de passer un appel automatisé de l’une des six personnes décédées avec sa propre voix, exhortant à des lois plus strictes sur le contrôle des armes à feu. « Je suis de retour aujourd’hui parce que mes parents ont utilisé l’IA pour recréer ma voix pour vous appeler », explique la voix générée par l’IA de Joaquin Oliver, l’un des adolescents tués dans la fusillade de Parkland. « D’autres victimes comme moi appelleront également. » Au moment de la publication, plus de 8 000 appels à l’IA avaient été soumis aux législateurs via le site Web.
« Il s’agit d’un problème aux États-Unis et nous n’avons pas été en mesure de le résoudre », a déclaré Manuel, le père d’Oliver, qui a lancé le projet avec son épouse Patricia. Journal. « Si nous devons utiliser des trucs effrayants pour résoudre ce problème, bienvenue dans l’effrayant. »
Pour recréer les voix, les Oliver ont utilisé un service de clonage vocal d’ElevenLabs, une startup vieille de deux ans qui a récemment levé 80 millions de dollars lors d’une ronde de financement dirigée par Andreessen Horowitz. En utilisant seulement quelques minutes d’échantillons vocaux, le logiciel est capable de recréer des voix dans plus de deux douzaines de langues. Les Oliver auraient utilisé les publications de leur fils sur les réseaux sociaux pour ses échantillons de voix. Les parents et tuteurs légaux des victimes de violences armées peuvent remplir un formulaire pour soumettre leurs voix à The Shotline afin d’être ajouté à son référentiel de voix générées par l’IA.
Le projet soulève des questions éthiques sur l’utilisation de l’IA pour générer des deepfakes de voix appartenant à des personnes décédées. La semaine dernière, la Federal Communications Commission a déclaré illégaux les appels automatisés effectués à l’aide de voix générées par l’IA, une décision intervenue quelques semaines après que les électeurs du New Hampshire ont reçu des appels se faisant passer pour le président Joe Biden leur disant de ne pas voter aux primaires de leur État. Une analyse réalisée par une société de sécurité appelée Pindrop a révélé que le deepfake audio de Biden avait été créé à l’aide du logiciel d’ElevenLabs.
Le co-fondateur de l’entreprise, Mati Staniszewski, a déclaré au Journal qu’ElevenLabs permet aux gens de recréer les voix de proches décédés s’ils en ont les droits et autorisations. Mais jusqu’à présent, il n’est pas clair si les parents de mineurs avaient le droit à l’image de leurs enfants.