La Commission fédérale des communications a annoncé jeudi qu'elle réprimerait immédiatement les appels vocaux automatisés frauduleux contenant de fausses voix créées par l'intelligence artificielle, en s'attaquant à la technologie dite "deepfake" qui, selon les experts, pourrait compromettre la sécurité des élections ou exacerber la fraude.
Le vote unanime de la Federal Communications Commission étend les règles anti-spam aux appels deepfakes non sollicités issus de l'intelligence artificielle, qui sont considérés comme des appels « artificiels » en vertu de la loi fédérale.
La FCC a déclaré que cette décision donne aux procureurs généraux des États davantage d'outils juridiques pour poursuivre l'utilisation des sons générés par l'intelligence artificielle afin de tromper les Américains.
"Des acteurs malveillants utilisent des voix générées par l'intelligence artificielle pour extorquer des membres vulnérables de leur famille, se faire passer pour des célébrités et induire les électeurs en erreur lors d'appels automatisés non sollicités", a déclaré la présidente de la FCC, Jessica Rosenworcel, dans un communiqué. "Nous devons mettre fin aux fraudeurs derrière ces appels automatisés."
Quelques semaines avant qu'une décision ne soit prise d'interpréter plus largement la loi sur la protection des consommateurs par téléphone (TCPA) de 1991 pour inclure les voix générées par l'intelligence artificielle, un faux appel automatisé se faisant passer pour le président Joe Biden a ciblé des milliers d'électeurs du New Hampshire, les exhortant à ne pas participer aux primaires de l'État. Les autorités ont déclaré cette semaine qu'elles avaient lié les faux appels à un Texas et à deux entreprises, et que l'enquête en cours pourrait aboutir à des sanctions civiles et pénales.
Ceux qui souhaitent envoyer des appels vocaux automatisés "doivent obtenir le consentement préalable exprès de l'appelé avant de passer un appel avec une voix artificielle ou préenregistrée simulée ou générée à l'aide de la technologie de l'intelligence artificielle", a indiqué la FCC dans son communiqué de jeudi.
Selon les changements apportés jeudi, les appels frauduleux utilisant des voix clonées seront soumis aux mêmes amendes et conséquences que les appels illégaux qui n'utilisent pas la technologie. La Commission fédérale des communications a annoncé la semaine dernière qu'elle étudiait la proposition.
Les violations de la TCPA peuvent entraîner de lourdes sanctions civiles. En 2021, la Federal Communications Commission a annoncé une proposition d'amende de 5 millions de dollars contre les droitiers Jacob Wohl et Jack Burkman pour avoir prétendument utilisé des appels vocaux illégaux pour empêcher le vote aux élections de 2020.
Selon les estimations de YouMail, une société qui bloque les appels détournés, le nombre d'appels détournés aux États-Unis a culminé en 2019 à environ 58,5 milliards. L’année dernière, ce chiffre s’élevait à près de 55 milliards.
Alors que la Federal Communications Commission met à jour son interprétation de la loi fédérale, certains législateurs américains proposent des modifications directes à la loi afin de réduire davantage les appels vocaux illégaux. Les démocrates de la Chambre ont dévoilé cette année une législation qui doublerait les sanctions maximales prévues par la TCPA pour les violations d'appels automatisés impliquant l'utilisation de l'intelligence artificielle.
Andrew Schwarzman, maître de conférences à la faculté de droit de l'Université de Georgetown et conseiller principal de Benton, a qualifié la décision de la FCC de pas en avant important. "Personne ne devrait penser que cela empêchera les mauvais acteurs de faire de mauvaises choses, mais cela donne à la FCC les outils nécessaires pour agir rapidement pour dissuader les entreprises qui facilitent ces actions", a-t-il déclaré.
Dans le cadre d'une répression plus large des appels vocaux illégaux par les autorités étatiques et fédérales, la FCC a ordonné que les fournisseurs de téléphone qui facilitent les appels vocaux illégaux puissent et aient été déconnectés de force du réseau téléphonique américain.