La Federal Communications Commission (FCC) a officiellement émis l’amende complète recommandée contre le consultant politique Steve Kramer pour une série d’appels automatisés illégaux utilisant la technologie deepfake AI et l’usurpation d’identification de l’appelant lors des primaires du New Hampshire. Kramer doit payer 6 millions de dollars d’amende dans les 30 prochains jours, sinon le ministère de la Justice se chargera du recouvrement, selon .
Kramer a violé le adoptée en 2009, qui interdit à quiconque de « transmettre sciemment des informations d’identification de l’appelant trompeuses ou inexactes dans l’intention de frauder, de causer un préjudice ou d’obtenir illégalement quelque chose de valeur », selon les documents législatifs. La loi a précédé l’utilisation généralisée de l’IA, mais la FCC a voté pour qu’elle s’applique à ces deepfakes en février dernier.
Les faux appels automatisés ont diffusé un audio préenregistré de la voix du président Biden à l’aide de la technologie d’IA deepfake aux résidents du New Hampshire avant l’élection primaire présidentielle de 2024. Le faux président Biden a dit aux électeurs de ne pas voter lors de la prochaine primaire en disant : « Votre vote fait une différence en novembre, pas ce mardi », selon un rapport antérieur de . Les appels automatisés ont été usurpés de manière à sembler provenir de l’ancienne présidente du Parti démocrate du New Hampshire, selon le .
Kramer a embauché le magicien de la Nouvelle-Orléans (non, vraiment, un vrai magicien) Paul Carpenter pour réaliser les faux enregistrements. Carpenter a montré comment il avait créé de faux fichiers audio du président Biden à l’aide d’un générateur de voix IA appelé ElevenLabs. Les enregistrements, affirme-t-il, n’ont duré qu’une vingtaine de minutes. Carpenter dit que Kramer l’a payé via Venmo et il pensait que le travail qu’il effectuait était autorisé par la campagne du président Biden. Eleven Labs a depuis fermé le compte de Carpenter.
Kramer affirme avoir envoyé des appels automatisés pour sensibiliser aux dangers et à l’utilisation abusive de la technologie. Son expérience apparente ne lui a coûté que 500 dollars mais, selon le consultant politique, elle s’est soldée par un retour massif. « C’est à moi de faire cela et d’obtenir une exposition d’une valeur de 5 millions de dollars, pas à moi », a déclaré Kramer à CBS New York. «Je suis resté anonyme pour que les réglementations puissent se dérouler ou commencer à se dérouler. Je n’ai pas besoin d’être célèbre. Ce n’est pas mon intention. Mon intention était de faire une différence.
Kramer ne fait pas seulement face à une lourde amende de la FCC, il fait également face à des accusations criminelles. a annoncé en mai dernier que Kramer avait reçu 13 chefs d’accusation de suppression d’électeurs et 13 chefs d’accusation de délit d’usurpation d’identité d’un candidat.