Après que les élections primaires du mois dernier ont vu un message conçu pour ressembler à la voix du président américain Joe Biden disant aux habitants du New Hampshire de ne pas voter, la Federal Communications Commission (FCC) a décidé de rendre illégale l'utilisation de voix générées par l'intelligence artificielle pour les appels automatisés. L'agence s'inquiète du fait que la technologie audio deepfake soit utilisée pour confondre et tromper les consommateurs en imitant les voix de « célébrités, candidats politiques et proches parents ».

La proposition de la présidente de la FCC, Jessica Rosenworcel, rendrait illégal, en vertu de la Loi sur la protection des consommateurs par téléphone (TCPA), l'utilisation de voix générées par l'intelligence artificielle pour passer des appels.

La loi TCPA de 1991 restreint le télémarketing, l'utilisation de systèmes de numérotation téléphonique automatique et de messages vocaux artificiels ou préenregistrés. La loi exige également que les télévendeurs obtiennent le consentement écrit exprès des consommateurs avant de leur téléphoner. La FCC souhaite que les sons générés par l’IA respectent également ces normes. Les cinq membres de la commission devraient voter sur la proposition dans les semaines à venir.

"Les clones de voix et les images générés par l'IA sèment déjà la confusion, faisant croire aux consommateurs que les escroqueries et les fraudes sont légitimes", a déclaré Rosenworcel dans un communiqué. "Quelle que soit la célébrité ou le politicien que vous aimez ou la relation que vous entretenez avec vos proches, nous sommes tous susceptibles d'être la cible de ces faux appels lorsqu'ils appellent à l'aide."

La société de détection de fraude vocale Pindrop a analysé le faux message de 39 secondes qui ressemblait à Biden disant aux résidents du New Hampshire de ne pas voter et a découvert qu'il avait été créé à l'aide du moteur de synthèse vocale d'ElevenLabs. La startup utilise un logiciel d’intelligence artificielle pour reproduire les sons de plus de deux douzaines de langues.

Selon Bloomberg, ElevenLabs a confirmé que son logiciel avait été utilisé lors de l'incident du New Hampshire et a banni le compte responsable. Le bureau du procureur général du New Hampshire a annoncé une enquête sur les appels téléphoniques de personnes se faisant passer pour Biden.

Un porte-parole de la FCC a déclaré que des modifications potentielles à la loi donneraient aux procureurs généraux de nouveaux pouvoirs pour réprimer les fraudeurs par appels vocaux utilisant l'intelligence artificielle tout en protégeant les consommateurs.

La FCC lutte contre les appels automatisés depuis des années. En décembre 2022, la Federal Communications Commission a proposé une amende de 300 millions de dollars contre une opération multinationale illégale d'appels automatisés qui a effectué plus de 5 milliards d'appels automatisés vers plus de 500 millions de numéros de téléphone sur une période de trois mois en 2021. En 2020, le bureau a également imposé 225 millions de dollars d'amendes pour appels automatisés trompeurs.

Faire entendre la voix des membres de la famille est devenu un moyen courant pour les criminels de voler de l'argent à des victimes sans méfiance. Cette criminalité continue d’augmenter à mesure que la technologie générée par l’IA devient plus accessible, moins chère et plus convaincante.