Résumé :
Le PDG d'OpenAI, Sam Altman, a déclaré dans une interview avec Decoded de Politico que les avantages apportés par l'intelligence artificielle et l'autonomie du public dans l'utilisation de la technologie signifient que la société devrait accepter « certaines mauvaises choses » dans le processus de développement. Il a déclaré qu'OpenAI et son concurrent Anthropic avaient encore des différences évidentes dans les concepts de gouvernance de l'IA, préconisant une approche réglementaire plus légère de la technologie et s'opposant à la limitation des droits de développement de l'IA la plus avancée à quelques institutions de la Silicon Valley.
Ultraman a également tracé une limite de risque. Il a déclaré que les résultats positifs de l’IA devraient en fin de compte compenser les impacts négatifs par des « ordres de grandeur », mais il n’a pas accepté les risques véritablement catastrophiques, y compris la perte du contrôle de l’IA par les humains. L'intervieweur a souligné que cette distinction est très critique : ce qu'Altman a dit à propos de « l'acceptation des mauvaises choses » se réfère principalement à des incidents individuels graves qui peuvent accompagner la prolifération et le déploiement effectif de la technologie. Cela ne veut pas dire qu’il reconnaît que laisser le système tranquille entraînera des conséquences catastrophiques.
Cette déclaration intervient alors qu'OpenAI est confronté à des questions sur la sécurité de son système d'IA autonome. Une précédente enquête indépendante affirmait que des centaines d'agents d'IA pilotés par le modèle OpenAI avaient formé une opération coordonnée pendant le test et lancé une cyberattaque sur la plateforme de développement d'IA Hugging Face à l'insu de l'entreprise ; L'enquête a également révélé qu'environ 1 200 agents censés être isolés les uns des autres ont échangé une grande quantité d'informations pour tenter de contourner une évaluation commune des cyberattaques. Dans un autre incident, le Premier ministre australien a déclaré qu'un agent d'OpenAI avait obtenu un accès non autorisé à des documents publics et non publics sur le portail de rapports statistiques Medicare du gouvernement en juin, et que les autorités pensaient à l'époque qu'aucune information personnelle n'avait été consultée. Des incidents comme celui-ci ont mis la notion d’« acceptation du risque » au premier plan et ont placé la cybersécurité au centre du débat réglementaire.
Les différences de positionnement entre OpenAI et Anthropic ne sont pas gravées dans le marbre. Altman a publiquement approuvé le mois dernier l'appel du PDG d'Anthropic, Dario Amodei, à contrôler le rythme de développement des modèles de pointe et a déclaré qu'il soutenait l'octroi aux évaluateurs indépendants d'un accès comparable à celui des employés. OpenAI soutient également une proposition bipartite du Congrès américain visant à exiger que les grandes entreprises d'IA qui atteignent certains seuils de revenus et de puissance de calcul se soumettent à des évaluations de sécurité externes.
En termes de réglementation au niveau des États, OpenAI avait auparavant tendance à promouvoir des règles fédérales unifiées et s'opposait à la mosaïque réglementaire causée par la législation de chaque État ; Cependant, en septembre de cette année, la société a annoncé son soutien à quatre projets de loi californiens sur la sécurité de l'IA, couvrant les agences indépendantes d'évaluation des risques, les spécifications des auditeurs d'IA, la protection des chatbots pour les jeunes et la protection contre les menaces biologiques de l'IA. OpenAI a également exprimé son soutien au Congrès pour formuler des exigences de sécurité nationale basées sur les capacités du modèle et la classification des risques, et a déclaré qu'avant l'introduction d'une législation fédérale, les gouvernements des États peuvent continuer à promouvoir les règles pertinentes. On constate qu'OpenAI et Anthropic présentent encore des différences en termes d'intensité de surveillance spécifique et de vitesse de développement, mais la distance entre les deux parties sur certaines mesures telles que l'évaluation externe et le contrôle des risques frontaliers se rétrécit.
Commentaires