Les outils modernes générés par l’IA, capables d’imiter de vraies voix humaines, sont à la fois impressionnants et inquiétants. Des escroqueries par phishing à l'ingérence électorale, toute application divertissante ou utile en possède au moins une malveillante. Aujourd’hui, la Federal Trade Commission (FTC) des États-Unis en a également pris note et a pris des mesures pour la première fois. Plus tôt cette semaine, le comité a commencé à accepter les inscriptions au Voice Cloning Challenge, a rapporté BleepingComputer.

L'agence gouvernementale espère obtenir des idées utiles pour résoudre le problème de l'utilisation frauduleuse ou non autorisée des systèmes de clonage vocal basés sur l'IA. Les participants peuvent faire des suggestions pour au moins un des points d’intervention suivants :

Prévention ou authentification : une méthode doit être fournie pour restreindre l'utilisation ou l'application d'un logiciel de clonage vocal par des utilisateurs non autorisés ;

Détection ou surveillance en temps réel : des méthodes doivent être fournies pour détecter les voix clonées ou l'utilisation de la technologie de clonage vocal ; ou

Évaluation post-utilisation : une méthode doit être fournie pour vérifier si un clip audio contient de la parole clonée.

Selon les règles, toutes les propositions soumises doivent inclure une brève description textuelle de la proposition proposée et une explication écrite détaillée.

Les juges du défi évalueront les propositions dans trois domaines principaux : la gérabilité et la faisabilité de l'exécution ; une responsabilité accrue des entreprises et une réduction du fardeau des consommateurs ; et la résilience. Cela signifie que les solutions proposées doivent être relativement faciles à mettre en pratique et aussi pérennes que possible, en tenant compte des options pratiques dont disposent les développeurs d’outils d’IA.

Le grand gagnant du concours recevra un bonus de 25 000 $ US et le finaliste recevra un bonus de 4 000 $ US. Jusqu'à trois mentions honorables (une par site d'intervention) recevront 2 000 $ chacune.

Pourtant, la FTC affirme qu’aucun résultat n’est un résultat – même s’il s’agit d’un résultat inquiétant. Si aucune idée viable n’émerge, cela signifie que les défis techniques sont plus difficiles que prévu et devraient déclencher les changements législatifs nécessaires pour développer des politiques d’utilisation de tels outils d’IA.

Le concours ouvert durera jusqu'au 12 janvier et les résultats seront annoncés « début 2024 ».

apprendre encore plus:

https://www.ftc.gov/news-events/contests/ftc-voice-cloning-challenge