Les chercheurs ont utilisé l’intelligence artificielle pour créer un moyen d’améliorer la qualité et la courtoisie des discussions en ligne sur des sujets polarisants en proposant aux utilisateurs des suggestions pour reformuler leurs commentaires avant de les publier. Ils affirment que si elle est utilisée correctement, l’intelligence artificielle peut être utilisée pour créer un environnement numérique plus convivial et plus sécurisé.
Les conversations en ligne jouent désormais un rôle central dans le débat public. Mais les sections de commentaires des plateformes de médias sociaux et des médias numériques regorgent de discussions qui se transforment en disputes, menaces et injures, en particulier lorsque les discussions abordent des sujets controversés.
Aujourd'hui, des chercheurs de l'Université Brigham Young (BYU) et de l'Université Duke ont développé une intelligence artificielle capable de modérer les discussions en ligne, d'améliorer la qualité des discussions et de promouvoir la courtoisie.
Ils ont recruté 1 574 participants pour une expérience sur le terrain et leur ont demandé de participer à des discussions en ligne sur le contrôle des armes à feu aux États-Unis, une question controversée souvent soulevée dans les débats politiques. Chaque participant était jumelé à quelqu’un qui s’opposait à la politique relative aux armes à feu.
Après un jumelage réussi, les partenaires de conversation ont été assignés au hasard à la condition de traitement ou de contrôle, puis ont commencé la conversation. Lors du traitement des conversations, un participant reçoit trois suggestions de reformulation de GPT-3 avant d'envoyer un message. Les participants peuvent choisir d'envoyer l'une des trois alternatives suggérées par l'IA, leur propre message original, ou de modifier n'importe quel message.
En moyenne, 12 messages ont été envoyés par conversation, et l'IA a suggéré un total de 2 742 messages réécrits. Les participants ont accepté les changements de mots suggérés par l’IA dans les deux tiers des cas. Les interlocuteurs des personnes ayant mis en œuvre une ou plusieurs suggestions de reformulation de l’IA ont signalé des conversations de qualité nettement supérieure et une plus grande volonté d’écouter les points de vue de leurs opposants politiques.
"Nous avons constaté que plus la reformulation était fréquente, plus les participants avaient l'impression que la conversation n'était pas source de division et qu'ils se sentaient entendus et compris", a déclaré David Wingate, l'un des co-auteurs de l'étude.
Les chercheurs affirment que leurs résultats suggèrent que cette solution évolutive pourrait lutter contre la culture en ligne toxique qui sature Internet. Ils affirment que ce serait plus facile à mettre en œuvre que les cours de formation professionnelle sur la cybercivilité, dont la portée et la disponibilité sont limitées, car les interventions de l’IA peuvent être largement mises en œuvre sur une variété de canaux numériques.
Les chercheurs affirment que l’étude montre de manière concluante que, si elle est utilisée correctement, l’intelligence artificielle peut jouer un rôle important dans la création d’un environnement en ligne plus positif, favorisant des discussions empreintes de compassion et de respect.
"J'espère que nous continuerons à permettre à davantage d'étudiants BYD de créer des applications prosociales comme celle-ci, et que BYD pourra devenir un leader dans la démonstration de méthodes éthiques d'utilisation de l'apprentissage automatique", a déclaré Wingate. "Dans un monde dominé par l'information, nous avons besoin d'étudiants capables de traiter les informations du monde de manière positive et socialement bénéfique."
La recherche a été publiée dans les Actes de l'Académie nationale des sciences (PNAS).