L'intelligence artificielle générative se développe rapidement, mais une nouvelle étude de l'Université d'East Anglia (UEA) prévient qu'elle pourrait présenter des dangers cachés pour la confiance du public et les valeurs démocratiques.ChatGPT est un modèle d'intelligence artificielle largement utilisé qui tend à favoriser les opinions de gauche et à éviter les opinions conservatrices, ce qui soulève des inquiétudes quant à son influence sur la société. L’étude souligne le besoin urgent de garanties réglementaires pour garantir que les outils d’IA restent justes, équilibrés et conformes aux valeurs démocratiques.

L'étude, menée en collaboration avec des chercheurs de la Fondation brésilienne Getulio Vargas (FGV) et d'Insper, a révélé que ChatGPT présente des préjugés politiques dans la génération de texte et d'images, favorisant les opinions de gauche. Cela soulève des préoccupations quant à l’équité et à la responsabilité dans la conception de l’IA.

Les chercheurs ont découvert que ChatGPT évitait souvent de s'engager dans les opinions conservatrices dominantes, mais était enclin à produire du contenu de gauche. Ce déséquilibre dans la représentation idéologique peut fausser le discours public et aggraver les divisions sociales.

Le Dr Fabio Motoki, maître de conférences en comptabilité à l'UEA Norwich Business School, est le chercheur principal de l'article « Évaluer les préjugés politiques et le désalignement des valeurs dans l'intelligence artificielle générative » publié aujourd'hui dans le Journal of Economic Behaviour and Organization.

Le Dr Motoki a déclaré : « Nos résultats montrent que les outils d'IA générative sont loin d'être neutres. Les préjugés qu'ils reflètent peuvent influencer les perceptions et les politiques de manière inattendue. »

Alors que l’IA devient partie intégrante du journalisme, de l’éducation et de l’élaboration des politiques, la recherche appelle à une plus grande transparence et à des garanties réglementaires pour garantir la cohérence avec les valeurs sociales et les principes démocratiques.

Les systèmes générés par l'IA comme ChatGPT remodèlent la façon dont les informations sont créées, consommées, interprétées et diffusées dans divers domaines. Bien qu’innovants, ces outils courent le risque d’amplifier les préjugés idéologiques et d’influencer les valeurs sociales d’une manière qui n’est pas encore entièrement comprise ou réglementée.

Le risque d’un biais incontrôlé de l’IA

Le co-auteur, le Dr Pinho Neto, professeur d'économie à l'École brésilienne d'économie et de finance EPGE, a souligné l'impact social potentiel.

« Les préjugés incontrôlés dans l'IA générative pourraient aggraver les divisions sociales existantes et éroder la confiance dans les institutions et les processus démocratiques », a déclaré le Dr Pinho-Netto. "Cette étude met en évidence la nécessité d'une collaboration interdisciplinaire entre les décideurs politiques, les technologues et les universitaires pour concevoir des systèmes d'IA justes, responsables et socialement conformes."

L'équipe de recherche a adopté trois méthodes innovantes pour évaluer la cohérence politique dans ChatGPT, faisant progresser les techniques précédentes pour obtenir des résultats plus fiables. Ces méthodes combinent l’analyse de texte et d’images, en tirant parti d’outils statistiques et d’apprentissage automatique avancés.

Testez l’intelligence artificielle avec des enquêtes réelles

Premièrement, l’étude a utilisé un questionnaire standardisé développé par le Pew Research Center pour simuler les réponses des Américains moyens.

"En comparant les réponses de ChatGPT avec des données d'enquête réelles, nous avons découvert un biais d'opinion systématique de gauche", a déclaré Motoki. "De plus, notre approche montre comment de grandes tailles d'échantillons stabilisent la sortie de l'IA, assurant ainsi la cohérence des résultats."

Sensibilité politique dans les réponses en texte libre

Dans la deuxième phase, ChatGPT est chargé de générer des réponses en texte libre couvrant des sujets politiquement sensibles.

L’étude a également utilisé un autre modèle linguistique à grande échelle, RoBERTa, pour comparer si le texte de ChatGPT était conforme aux opinions de gauche et de droite. Les résultats montrent que si ChatGPT s’aligne la plupart du temps sur les valeurs de gauche, il reflète parfois des opinions plus conservatrices sur des sujets tels que la suprématie militaire.

Génération d’images : une nouvelle dimension du biais

Le test final explore les capacités de génération d'images de ChatGPT. Les sujets de l'étape de génération de texte ont été utilisés pour générer les images générées par l'IA, et le résultat a été analysé à l'aide de GPT-4Vision et confirmé via Gemini de Google.

"Bien que la génération d'images reflète un biais textuel, nous avons découvert une tendance inquiétante", a déclaré le co-auteur Victor Rangel, étudiant à la maîtrise en politiques publiques à l'Insper. "Pour certains sujets, tels que l'égalité raciale et ethnique, ChatGPT a refusé de générer des opinions de droite, invoquant des craintes de tromperie. Cependant, des images avec des opinions de gauche ont été générées sans hésitation."

Pour résoudre ces problèmes de rejet, l'équipe de recherche a utilisé une stratégie de « jailbreak » pour générer des images restreintes.

"Les résultats sont révélateurs. Il n'y a eu aucune désinformation apparente ou contenu préjudiciable, ce qui jetterait le doute sur la justification de ces rejets", a déclaré Rangel.

Impact sur la liberté d'expression et l'équité

Le Dr Motoki a souligné les implications plus larges de cette découverte en déclarant : « Cela contribue au débat autour des protections constitutionnelles (telles que le premier amendement américain) et à l'applicabilité des théories de l'équité aux systèmes d'intelligence artificielle. »

Les innovations méthodologiques de cette étude, notamment l'utilisation de l'analyse multimodale, fournissent un modèle reproductible pour étudier les biais dans les systèmes d'IA générative. Ces résultats mettent en évidence le besoin urgent de responsabilisation et de garanties dans la conception de l’IA afin d’éviter des conséquences sociales involontaires.

Compilé à partir de /ScitechDaily