Résumé :
Sam Altman, PDG d'OpenAI, a déclaré qu'il existe encore des différences fondamentales entre les visions du monde sous-jacentes d'OpenAI et de son rival Anthropic sur la question de la réglementation de l'intelligence artificielle. Dans une interview, il a proposé que l'énorme valeur apportée par cette technologie soit à la hauteur de la part de risque prise par la société ; La technologie de l’IA doit continuer à être largement ouverte au public.
Le PDG d'OpenAI, Sam Altman, a déclaré dans une interview que les avantages apportés par l'IA sont suffisants pour que la société en accepte certains. risques
"Il y a un énorme fossé en philosophie", a déclaré Altman. Interrogé sur ses principales différences avec Anthropic et son PDG Dario Amodai, Altman a déclaré : "Nous pensons que pour récolter les bénéfices de cette technologie et garantir que les gens ont le droit de l'utiliser de manière autonome, le monde devrait accepter que certaines mauvaises choses se produisent."
Anthropic est depuis longtemps le plus ardent défenseur de la réglementation de l'IA. Il n’y a pas si longtemps, cette position aurait été en contradiction avec les efforts d’OpenAI en faveur d’une réglementation légère. Cependant, ces derniers mois, les différences politiques entre les deux principales sociétés d’IA se sont réduites. Après une série de piratages très médiatisés et de comportements erratiques des modèles, OpenAI a évolué pour prendre en charge des règles réglementaires plus strictes.
Ultraman était d'accord avec le point d'Amodai le mois dernier concernant le ralentissement du rythme de développement des grands modèles de pointe. OpenAI a également suivi l'exemple d'Anthropic et a soutenu l'introduction de nouveaux projets de loi dans certains États américains visant à fixer des exigences de sécurité plus strictes que les normes précédemment prises en charge par les développeurs de ChatGPT. Cela représente un changement subtil dans sa stratégie réglementaire au niveau de l’État. Les lobbyistes politiques d’OpenAI ont également récemment soutenu un projet de loi bipartisan exigeant que les principales entreprises d’IA fassent appel à des évaluateurs de sécurité externes.
Même si les positions des deux parties tendent à être proches, Altman a néanmoins tenté de tracer une ligne claire entre la pensée réglementaire des deux sociétés. Il a noté que des conseillers technologiques proches du président Trump avaient critiqué Anthropic pour sa capture réglementaire.
"Je ne suis pas d'accord avec ce point de vue, mais je comprends le point de vue de certaines personnes : cette technologie deviendra extrêmement puissante et risquée, elle devrait donc être maîtrisée par un laboratoire de San Francisco pour s'assurer que rien de grave ne se produise, puis le laboratoire décidera comment distribuer les dividendes technologiques." Altman a déclaré que ce compromis est totalement inacceptable et va à l'encontre de l'approche réglementaire légère soutenue par OpenAI.
"Je n'accepterai pas un accord dans lequel nous garantissons qu'il n'y aura pas d'attaques de piratage majeures, pas d'abus de technologie, pas de fraude et toutes sortes de mauvaises choses qui pourraient arriver", a déclaré Altman, "parce que je crois que les bonnes actions que les humains peuvent créer en utilisant l'IA dépasseront de loin les dommages qu'elle entraîne, de plusieurs ordres de grandeur."
Le PDG d'OpenAI a ajouté plus tard qu'il n'acceptait pas les risques véritablement catastrophiques, y compris la possibilité que l'IA provoque de graves situations incontrôlables.
Lors d'une question de commentaires, un porte-parole d'Anthropic a déclaré que les propositions réglementaires de l'entreprise ne s'appliqueraient qu'aux modèles de pointe. La société a également cité une conversation qu'Amodai a eue avec un gestionnaire d'investissement sur les réseaux sociaux en août en réponse aux critiques concernant la capture réglementaire et l'impact des politiques réglementaires sur les petites entreprises.
Amodai avait déclaré à l'époque : "Anthropic a toujours été très prudent lors de la formulation de propositions politiques. Nous avons déployé de grands efforts pour concevoir des solutions qui créent des conditions favorables pour les petits concurrents tout en restreignant les géants de l'IA de pointe."
L'interview d'Altman a également abordé un certain nombre de sujets : le nouvel accord de Trump sur l'IA avec des entreprises technologiques de premier plan, son projet de changement de marque pour créer une "super intelligence" ; plusieurs incidents de piratage autonome causés par les modèles OpenAI et si l'entreprise doit en assumer la responsabilité légale ; l’impact de l’énorme afflux de fonds dans l’industrie de l’IA sur la politique américaine ; l’influence des soi-disant altruistes efficaces au sein d’OpenAI ; et ses opinions sur des personnalités politiques clés telles que le président français Emmanuel Macron et le gouverneur de Californie Gavin Newsom.
Commentaires