Un professeur d’éducation physique et ancien directeur sportif d’un lycée du comté de Baltimore a été arrêté et accusé de utiliser un service de clonage vocal d’IA pour piéger le directeur de l’école.
La bannière de Baltimore rapports que la police du comté de Baltimore pense qu’un enregistrement diffusé sur les réseaux sociaux en janvier avec un prétendu audio du directeur du lycée de Pikesville, Eric Eiswert, faisant des commentaires racistes et antisémites, était faux. Les experts ont dit La bannière de Baltimore et la police que l’enregistrement, qui a brièvement entraîné la suspension d’Eiswert, a un « ton plat, des bruits de fond inhabituellement clairs et un manque de bruits de respiration ou de pauses cohérents ».
La police du comté de Baltimore a retracé l’enregistrement jusqu’à Dazhon Darien, un ancien directeur sportif de l’école dont le nom était également mentionné dans le clip audio. Il aurait accédé aux ordinateurs de l’école pour rechercher des « outils OpenAI ». On ne sait pas exactement quelle plate-forme vocale d’IA Darien aurait utilisée. La police a arrêté Darien jeudi à l’aéroport et WBAL TV 11 rapporte que « les enquêteurs pensent que Darien a réalisé cet enregistrement pour se venger d’Eiswert, qui, à l’époque, poursuivait une enquête sur une éventuelle mauvaise gestion des fonds de l’école ».
Dans cet environnement tendu, OpenAI a décidé en mars de suspendre l’utilisation publique de sa plateforme de génération de texte-voix par IA, Voice Engine. Le service, qui ne nécessite qu’un clip audio de 15 minutes pour cloner la voix d’une personne, n’est disponible que pour un nombre limité de chercheurs en raison du manque de garde-fous autour de la technologie.
Les législateurs américains ont déposé, mais n’ont pas encore adopté, plusieurs projets de loi, comme le No Fakes Act et le No AI Fraud Act, qui visent à empêcher les entreprises technologiques d’utiliser le visage, la voix ou le nom d’un individu sans sa permission.
Mise à jour le 25 avril: Il a été précisé que le lycée de Pikesville se trouve dans la ville de Pikesville, dans le comté de Baltimore, dans le Maryland, et a ajouté des détails sur Darien et son arrestation de jeudi.