Meta commencera à annoter les photos générées par l'IA et téléchargées sur Facebook, Instagram et Threads dans les mois à venir, à mesure que les élections se dérouleront dans le monde entier. La société commencera également à pénaliser les utilisateurs qui ne divulguent pas si des vidéos ou des fichiers audio réels ont été produits par l’intelligence artificielle.

Nick Clegg, président des affaires mondiales de Meta, a déclaré dans une interview que ces mesures visent à « encourager » l'industrie technologique alors que les médias générés par l'intelligence artificielle deviennent de plus en plus difficiles à distinguer entre le vrai et le faux. La Maison Blanche a fait pression pour que les entreprises filigranent le contenu généré par l’IA. Pendant ce temps, a déclaré Clegg, Meta développe des outils pour détecter les médias synthétiques même si leurs métadonnées ont été falsifiées pour masquer le rôle de l'intelligence artificielle dans leur création.

Meta appose déjà le filigrane « Imagined with AI » sur les images générées à l'aide de son propre générateur ImagineAI, et la société commencera à appliquer le même filigrane aux photos IA générées à l'aide des outils de Google, OpenAI, Microsoft, Adobe, Midjourney et Shutterstock. Clegg a déclaré que l'industrie était loin derrière les autres industries dans l'établissement de normes d'identification de la vidéo et de l'audio générés par l'IA. Même si Meta reste très vigilante sur la manière dont ce type de média peut être utilisé pour tromper, l’entreprise ne peut pas tout comprendre seule.

Il a déclaré : « Nous resterons très vigilants envers ceux qui craignent que le contenu vidéo et audio soit conçu pour tromper le public sur des questions politiques importantes menant aux élections. Est-ce que je pense qu'il est possible que, peu importe la rapidité avec laquelle nous sommes découverts ou étiquetés, nous soyons toujours inexplicablement accusés d'être hors de la chaîne ? Oui, je pense que c'est possible, sinon très probable.

Meta a travaillé avec des organisations telles que le Partenariat pour l'intelligence artificielle pour s'appuyer sur les initiatives existantes en matière d'authenticité du contenu. Adobe a récemment publié un système d'identification de contenu qui intègre les informations sur la provenance du contenu dans les métadonnées des images. Après avoir publié une version bêta du filigrane SynthID pour les images, Google l'a étendu aux fichiers audio.

Clegg a déclaré que Meta commencerait bientôt à demander aux utilisateurs de divulguer des publications contenant de la vidéo ou de l'audio photoréaliste produit à l'aide de l'intelligence artificielle. Si les utilisateurs ne divulguent rien, a-t-il déclaré, ils "seront soumis à des sanctions allant de l'avertissement à la suppression des messages incriminés".

Il existe déjà de nombreux exemples de publications virales de politiciens générées par l’IA, mais Clegg a sous-estimé la probabilité que le phénomène s’empare de la plateforme de Meta au cours d’une année électorale. "Je ne pense pas que nous allons bientôt voir une vidéo ou un audio complètement synthétique et politiquement significatif", a-t-il déclaré. "Je ne pense tout simplement pas que ça va se passer comme ça."

Meta a également commencé à tester en interne l'utilisation de grands modèles de langage (LLM) formés selon les normes de la communauté, a-t-il déclaré, le décrivant comme fournissant un « mécanisme de tri » efficace pour des dizaines de milliers d'évaluateurs humains. "Cela semble être un moyen très efficace et assez précis de garantir que le contenu signalé à nos évaluateurs humains est effectivement le genre de cas limite qui nécessite un jugement humain", a-t-il déclaré.