L'intelligence artificielle (IA) et les algorithmes ont la capacité et sont utilisés pour alimenter la radicalisation, accroître la polarisation, propager le racisme et l'instabilité politique, selon un universitaire de l'Université de Lancaster. Le professeur de sécurité internationale Joe Burton estime que l’intelligence artificielle et les algorithmes ne sont pas de simples outils utilisés par les agences de sécurité nationale pour contrecarrer les cyberactivités malveillantes. Il estime que l’intelligence artificielle et les algorithmes peuvent également alimenter la polarisation, la radicalisation et la violence politique, constituant ainsi une menace pour la sécurité nationale elle-même.

En outre, a-t-il ajouté, le processus de sécurisation (considérant la technologie comme une menace existentielle) joue un rôle important dans la conception, l’utilisation et les conséquences néfastes de l’intelligence artificielle.

L'article du professeur Burton a été récemment publié dans le magazine influent d'Elsevier, « Technology in Society ».

« L'intelligence artificielle est souvent considérée comme un outil pour lutter contre l'extrémisme violent, et c'est l'autre aspect du débat », a-t-il déclaré.

Cet article explore la manière dont l’IA a été sécurisée historiquement et dans ses représentations dans les médias et la culture populaire, en explorant des exemples modernes d’IA ayant des effets polarisants et radicalisants qui contribuent à la violence politique.

L'article cite la série de films classiques "The Terminator", qui dépeint un carnage perpétré par une intelligence artificielle "sophistiquée et vicieuse". Plus que tout autre film, il a sensibilisé le public à l'intelligence artificielle et à la crainte que la conscience machine puisse entraîner des conséquences dévastatrices pour l'humanité - en l'occurrence, une guerre nucléaire et une tentative délibérée d'extermination d'une espèce.

Le professeur Burton écrit : « La méfiance à l'égard des machines, les craintes qui leur sont associées et leur lien avec les menaces biologiques, nucléaires et génétiques contre l'humanité ont conduit les gouvernements et les agences de sécurité nationale à vouloir influencer le développement de la technologie pour réduire les risques et (dans certains cas) exploiter son potentiel positif. »

Le professeur Burton a déclaré que les drones avancés, tels que ceux utilisés dans la guerre en Ukraine, étaient désormais capables d'une autonomie totale, y compris de capacités telles que la reconnaissance et l'identification de cibles. Alors que les pays, y compris les Nations Unies, s'engagent dans un débat vaste et influent appelant à l'interdiction des « robots tueurs » et à l'inclusion des humains dans les décisions de vie ou de mort, l'accélération et l'intégration des drones armés se poursuivent.

Dans le domaine de la cybersécurité, c'est-à-dire la sécurité des ordinateurs et des réseaux informatiques, l'intelligence artificielle est largement utilisée, les domaines les plus courants étant la guerre psychologique de l'information et des réseaux.

Les actions du gouvernement Poutine contre le processus électoral américain en 2016 et le scandale Cambridge Analytica qui a suivi ont démontré le potentiel de l’IA à être combinée avec le big data, y compris les médias sociaux, pour produire des effets politiques centrés sur la polarisation, encourageant les croyances radicales et manipulant les groupes identitaires. Cela a démontré le pouvoir et le potentiel de l’IA pour diviser la société.

L’intelligence artificielle a été considérée comme un moyen positif de suivre le virus pendant la pandémie, mais a également soulevé des inquiétudes concernant la vie privée et les droits de l’homme.

L’article étudie la technologie de l’intelligence artificielle elle-même et estime qu’il existe des problèmes liés à la conception de l’intelligence artificielle, aux données sur lesquelles elle s’appuie, à la manière dont elle est utilisée, ainsi qu’à ses résultats et impacts. En fin d’article, il envoie un message fort aux chercheurs engagés dans la recherche sur la cybersécurité et les relations internationales.

Le professeur Burton, expert en cyberconflits et technologies émergentes et membre du programme de sciences de la sécurité et de la protection de l'université, a écrit : « L'intelligence artificielle a sans aucun doute la capacité de transformer la société de manière positive, mais elle pose également des risques que nous devons mieux comprendre et gérer. Comprendre la nature conflictuelle de cette technologie à toutes les étapes de son développement et de son utilisation. En d’autres termes, la sécurité des systèmes d’IA et la manière dont ils peuvent être utilisés dans les luttes géopolitiques internationales ne doivent pas l’emporter sur les préoccupations concernant leurs impacts sociaux. »

Source compilée : ScitechDaily