Deux sociétés basées au Texas ont été associées à une vague d’appels automatisés. Le deepfake audio a été utilisé pour exhorter les électeurs du New Hampshire à ne pas participer à la primaire présidentielle de l’État. Le procureur général du New Hampshire, John Formella, a déclaré que jusqu’à 25 000 appels avaient été adressés à des résidents de l’État en janvier.
Formella affirme qu’une enquête a établi un lien entre la source des appels automatisés et les sociétés texanes Life Corporation et Lingo Telecom. Aucune accusation n’a encore été déposée contre la société ou le propriétaire de Life Corporation, une personne nommée Walter Monk. L’enquête est en cours et d’autres entités seraient impliquées. Les autorités fédérales chargées de l’application des lois examineraient également cette affaire.
« Nous avons envoyé une lettre de cessation à Life Corporation qui lui ordonne de cesser immédiatement de violer les lois électorales du New Hampshire », a déclaré Formella lors d’une conférence de presse, selon . « Nous avons également ouvert une enquête criminelle et nous passons aux prochaines étapes de cette enquête, en envoyant des avis de conservation de documents et des assignations à comparaître à Life Corporation, Lingo Telecom et à toute autre personne ou entité. »
La Federal Communications Commission a également envoyé une lettre de cessation et d’abstention à Lingo Telecom. L’agence a déclaré () qu’elle avait déjà mis en garde les deux sociétés contre les appels automatisés.
Le deepfake a été créé à l’aide des outils de la société de clonage vocal AI ElevenLabs, qui . La société affirme qu’elle « se consacre à prévenir l’utilisation abusive des outils d’IA audio et [that it takes] tout incident d’utilisation abusive est extrêmement grave. »
Pendant ce temps, la FCC utilise les voix générées par l’IA. En vertu de la loi sur la protection des consommateurs par téléphone, l’agence est chargée d’établir des règles concernant les appels automatisés. Les commissaires doivent voter sur la question dans les semaines à venir.