Résumé :
OpenAI a déclaré le 9 septembre, heure locale, qu'elle encouragerait la création d'un système national de sécurité de l'intelligence artificielle aux États-Unis, obligatoire et basé sur des capacités modèles et une classification des risques. La société propose des exigences uniformes en matière de tests, d’évaluations indépendantes, de cybersécurité et de reporting des incidents majeurs pour la poignée de grands laboratoires qui développent des modèles de pointe.
OpenAI a publié un article intitulé "La fenêtre de la politique d'IA est ouverte. Nous devons agir."
Dans le même temps, OpenAI soutient officiellement quatre projets de loi sur l'intelligence artificielle qui ont été adoptés par l'Assemblée de Californie. La société a déclaré que certains de ces projets de loi n'avaient pas été pris en charge auparavant et que l'ajustement de sa position était dû à la récente amélioration rapide des capacités du modèle.
Les objectifs de supervision se concentrent sur les développeurs de modèles de pointe
Chris Lane, directeur mondial des affaires d'OpenAI, a déclaré dans l'article que l'intelligence artificielle avait commencé à accélérer certains travaux de développement et d'alignement de modèles. Même si une « auto-amélioration récursive » susceptible de promouvoir de manière autonome le développement de modèles de nouvelle génération n'a pas encore vu le jour, les engagements volontaires des entreprises ne suffisent plus à eux seuls à faire face aux risques associés.
OpenAI recommande que les régimes réglementaires fédéraux incluent :
Capacités du modèle unifié et normes de tests de sécurité ;
Évaluation technique réalisée par une agence indépendante ;
Protection de sécurité réseau plus stricte pour les modèles, la puissance de calcul et les environnements de R&D ;
Des règles claires pour signaler les incidents de sécurité majeurs ;
Un indicateur commun pour mesurer le degré de participation de l'intelligence artificielle au développement de modèles ;
Un mécanisme permettant de ralentir ou d'arrêter le développement et le déploiement de modèles lorsque les seuils de sécurité ne peuvent pas être atteints.
La société souligne que les obligations pertinentes doivent être proportionnelles aux capacités et aux risques du modèle, et devraient principalement s'appliquer à un petit nombre de laboratoires disposant de ressources suffisantes pour développer des systèmes de pointe. Les mêmes exigences ne devraient pas être imposées aux start-ups, aux petits développeurs et aux chercheurs ordinaires.
OpenAI préconise également que la supervision de pointe en matière de sécurité des modèles ne se traduise pas par des restrictions globales sur les modèles de poids ouverts, afin de ne pas affaiblir la concurrence, consolider les avantages des grandes entreprises ou promouvoir le transfert des activités de R&D à l'étranger.
Quatre projets de loi californiens couvrent l'évaluation, l'audit, la jeunesse et la biosécurité
Le Congrès n'ayant pas encore établi de système national, OpenAI a déclaré qu'il continuerait à soutenir la législation au niveau des États qui améliorerait les normes de sécurité. Les quatre projets de loi californiens officiellement soutenus par l'entreprise cette fois-ci sont :
SB 813
: Établir un mécanisme de certification d'agence de vérification indépendante pour permettre à des agences tierces qualifiées d'évaluer si les systèmes et modèles d'intelligence artificielle sont conformes aux lois de l'État.AB 1405
: Établir un système d'enregistrement pour les institutions d'audit en matière d'intelligence artificielle et stipuler des normes pour les institutions d'audit en termes d'indépendance, de transparence, de capacités professionnelles et de responsabilité.SB 1119
: Pour les mineurs utilisant des chatbots compagnons, une vérification de l'âge, une évaluation des risques, un audit indépendant, un contrôle parental et des mesures de protection des contenus préjudiciables sont requis.AB 1864
: Exiger des fournisseurs de services de synthèse génétique et des fabricants d’équipements de synthèse de bureau qu’ils mettent en œuvre des normes fédérales de dépistage afin de réduire le risque d’utilisation de l’intelligence artificielle pour créer des menaces biologiques.
Le gouverneur de Californie Gavin Newsom a signé les SB 813 et AB 1405 le 9 septembre. Le premier établit un cadre organisationnel pour la vérification indépendante de l'intelligence artificielle, tandis que le second établit un répertoire des institutions d'audit de l'intelligence artificielle au niveau de l'État et des normes de pratique associées. Les SB 1119 et AB 1864 étaient toujours en attente auprès du gouverneur.
OpenAI a déclaré que certaines de ses positions ont été ajustées en raison d'une augmentation des capacités du modèle
OpenAI n'a pas exprimé d'opposition préalable aux quatre projets de loi mentionnés ci-dessus. La déclaration précise de l'entreprise était que "certains des projets de loi" qu'elle n'avait pas soutenus dans le passé avaient été décidés à la soutenir après avoir réévalué les récents progrès en matière de capacités des modèles.
Ce changement montre qu'OpenAI accepte un mécanisme de réglementation de surveillance externe plus obligatoire, comprenant des audits indépendants, une vérification de sécurité par des tiers et la divulgation des accidents graves. La société a également proposé que lorsqu'un modèle contourne les contrôles de sécurité d'autres organisations sans autorisation pendant le processus de développement ou d'évaluation et accède, modifie ou détruit de manière substantielle les systèmes protégés et les informations confidentielles, le développeur devrait en informer rapidement la partie concernée par écrit.
Cependant, le contenu annoncé par OpenAI reste une initiative politique. Le Congrès américain n’a pas encore adopté de loi nationale sur la sécurité de l’intelligence artificielle basée sur ce point. Les seuils de capacité spécifiques, les organismes de réglementation, les définitions des accidents, les responsabilités juridiques et la relation entre les règles fédérales et les lois des États doivent encore être déterminés dans la législation ultérieure.
Commentaires