Les dernières recherches australiennes montrent qu'il est difficile pour les gens ordinaires de distinguer de manière fiable les visages générés par l'intelligence artificielle des visages réels. Même pour un petit nombre de personnes connues sous le nom de « super-identifiants », l’avantage n’est pas évident. Les chercheurs préviennent que de tels visages synthétiques très réalistes pourraient poser de sérieux défis en matière d’habilitation de sécurité et de vérification d’identité, car les gens ont souvent trop confiance dans leur capacité à identifier les personnes.
La recherche a été menée conjointement par des équipes de psychologie de l'Université de Nouvelle-Galles du Sud (UNSW Sydney) et de l'Université nationale australienne (ANU), et l'article a été publié dans le British Journal of Psychology. L’équipe de recherche a souligné que les « visages synthétiques de l’IA » d’aujourd’hui pourraient même être plus « réels » en termes de perception subjective que de vrais portraits, et des données expérimentales pertinentes confortent ce jugement.
James Dunn, chercheur à l'École de psychologie de l'UNSW, a déclaré que les gens croient depuis longtemps pouvoir reconnaître d'un seul coup d'œil les faux visages générés par l'IA. Les premiers systèmes d’IA généraient souvent des images déformées et imparfaites, mais avec le développement rapide des modèles génératifs, il est devenu extrêmement facile de créer un visage extrêmement réaliste.
Dans l'expérience spécifique, les deux universités ont recruté un total de 125 participants, dont 36 sujets identifiés comme des « super-reconnaisseurs » et 89 participants ordinaires comme groupe témoin. Tout le monde a effectué le même test en ligne : des visages réels et des visages générés par l'IA étaient présentés aléatoirement sur l'écran, et les sujets devaient juger si chacun était « réel » ou « synthétique ».
Les résultats ont montré que la performance de jugement des gens ordinaires n'était que légèrement meilleure que celle du niveau aléatoire des personnes « aveugles », tandis que les « super-identifiants » avaient des scores globaux plus élevés, mais leurs avantages étaient très limités. Ce qui est encore plus ironique, c’est qu’indépendamment de leur capacité de reconnaissance, tous les participants avaient une confiance égale dans leur « capacité à voir à travers les faux visages de l’IA », ce qui indique un excès de confiance important.
La recherche souligne que les visages modernes générés par l’IA ne sont plus aussi pleins de défauts évidents qu’ils l’étaient au début. Les « traces d'algorithmes » typiques telles que les arrière-plans flous, les organes manquants et les proportions étranges des traits du visage apparaissent de moins en moins. Par la suite, les risques potentiels liés à ces faux visages extrêmement déroutants s’accumulent rapidement dans des scénarios tels que la fraude en ligne, l’usurpation d’identité et les attaques d’ingénierie sociale, et les individus et les institutions peuvent en subir les conséquences.
Amy Dawel, professeure associée à l'ANU, souligne que les faux visages de l'IA d'aujourd'hui « ne se révèlent pas parce que quelque chose ne va vraiment pas, mais parce qu'ils sont trop beaux ». Plutôt que de dire qu'ils sont anormaux, il vaut mieux dire qu'ils sont « trop normaux » : le visage est très symétrique, les traits du visage sont bien proportionnés et les caractéristiques globales sont « moyennes » au sens statistique. Ils ont l'air à la fois agréables et « agréables aux yeux ». Elle a souligné que ce type de caractéristiques d'apparence « anormalement parfaites » et « trop moyennes » peut en soi être considéré comme un signal de danger potentiel généré par l'IA, et que les personnes dotées de super capacités de reconnaissance faciale pourraient être mieux à même de capturer ces modèles subtils.
Le prochain plan de l’équipe de recherche est d’analyser plus en détail les signaux perceptuels sur lesquels s’appuient ces « super détecteurs de faux visages IA », afin de promouvoir l’amélioration des outils techniques de détection automatique et des stratégies de reconnaissance de masse. Actuellement, l'UNSW a lancé le test en ligne « UNSW Face Test » sur son site officiel, qui comprend une version de démonstration gratuite des capacités de reconnaissance de faux visages de l'IA. Les utilisateurs ordinaires peuvent également évaluer leur propre niveau de reconnaissance.
Après avoir personnellement participé au test, l’auteur de l’article a constaté qu’il avait correctement identifié deux fois 12 faux visages IA sur 20 visages. Selon les instructions officielles, ce résultat devrait être classé comme « super-reconnaissance », alors que la note moyenne des participants ordinaires est d'environ 11/20. Alors que les images générées par l’IA continuent de s’améliorer, une si légère avance suffit à mettre en évidence l’écart croissant entre la technologie et la perception humaine.