Le Premier ministre britannique Rishi Sunak a annoncé son intention de créer le premier institut de sécurité de l'intelligence artificielle. Plus tôt dans la journée, Microsoft, Google, OpenAI et Anthropic ont annoncé un financement de 10 millions de dollars pour le Frontier Model Forum afin d'assurer le développement sûr et responsable de l'intelligence artificielle générative.
Sunak a rencontré des leaders du secteur de l'intelligence artificielle, à savoir OpenAI, Google et Anthropic, en mai 2023 pour discuter des garanties de la technologie. Les réunions avec les représentants de Downing Street ont ouvert la voie à des initiatives visant à garantir le développement sûr et responsable de l'intelligence artificielle générale (AGI).
« Lorsqu'elle est réalisée de manière sûre et fiable, l'intelligence artificielle a le potentiel d'apporter une transformation et une croissance économique », a déclaré Sunak.
Suite à cette évolution, le gouvernement britannique a annoncé qu'il organiserait un sommet sur la sécurité de l'intelligence artificielle les 1er et 2 novembre. Le sommet réunira des entreprises d'IA, des gouvernements, la société civile et des experts dans le domaine de l'IA dans le but d'examiner les risques de l'IA, en particulier à la frontière du développement, et de discuter de la manière de réduire les risques grâce à une action internationale coordonnée.
Le sommet se concentrera sur Frontier AI, une classe de modèles de base extrêmement performants dont les performances sont égales ou supérieures à celles des modèles existants.
Juste une semaine avant le sommet, le Premier ministre britannique a annoncé la création de l'Artificial Intelligence Security Institute dans un discours prononcé à Londres, le premier du genre au monde. Selon Sunak, l'institut « évaluera et testera soigneusement de nouveaux types d'intelligence artificielle afin que nous comprenions les capacités des nouveaux modèles ». Le gouvernement britannique a également publié deux documents de discussion sur les risques liés à l’intelligence artificielle de pointe et les vulnérabilités en matière de cybersécurité causées par l’ampleur et la rapidité des attaques de l’IA. Les deux documents préviennent qu’à l’avenir, nous pourrions assister à des cyberattaques menées et défendues par l’intelligence artificielle, la surveillance humaine étant minimisée à chaque étape.