Résumé :
Dans une interview mardi soir, heure locale, le PDG de Nvidia, Jensen Huang, a critiqué la proposition d'Anthropic d'exemption antitrust en matière de sécurité de l'IA, conçue pour ralentir de manière collaborative le développement de modèles d'IA de pointe, et a réfuté les arguments selon lesquels l'intelligence artificielle pourrait exterminer l'humanité d'ici une décennie.
Huang Renxun a fait les remarques ci-dessus dans une interview avec Jim Cramer, un présentateur financier américain bien connu. Auparavant, le PDG d'Anthropic, Dario Amodei, avait publié un article samedi dernier, déclenchant une discussion animée sur la sécurité de l'intelligence artificielle. Amodei a proposé que les principaux laboratoires d'IA travaillent ensemble pour « contrôler le rythme du développement des technologies de pointe », ce qui signifie intentionnellement ralentir le développement de modèles avancés pour donner aux entreprises plus de temps pour les tests et la protection de la sécurité. Amodei a déclaré que le travail pourrait nécessiter une coordination gouvernementale ou des exemptions aux réglementations antitrust pertinentes.
Huang Renxun convient que les entreprises d'IA doivent prêter attention aux problèmes de sécurité, mais il estime que les entreprises devraient résoudre ces problèmes par elles-mêmes.
Huang Renxun a déclaré : "Certaines personnes pensent que nous devons introduire de nouvelles lois, de nouvelles réglementations antitrust ou de nouvelles réglementations pour permettre à ces entreprises de faire de l'ingénierie de base et de normaliser la recherche et le développement avant de commercialiser des produits. Ceci est totalement inutile. Nous disposons déjà de dispositions légales et réglementaires suffisantes pour garantir la fiabilité et la fonctionnalité des produits."
Dans l'article, Amodei propose un plan en trois étapes pour ralentir le rythme de développement des modèles : la première étape consiste à envoyer des évaluateurs de sécurité tiers dans chaque laboratoire d'IA. Les deuxième et troisième étapes consistent respectivement en une collaboration démocratique et mondiale autour des normes de sécurité et en « fixant des limites à la vitesse du développement sans entrave de l’IA ». "Certaines méthodes collaboratives capables de réguler efficacement le rythme du développement technologique se heurtent à des obstacles juridiques et nécessitent le soutien du gouvernement."
Des problèmes juridiques surviennent parce que les principaux laboratoires d'IA sont des concurrents et que les modèles qu'ils lancent sont des produits concurrents. La Sherman Antitrust Act des États-Unis interdit en principe aux concurrents de conclure des accords qui restreignent de manière déraisonnable la concurrence, et certains comportements de collaboration (y compris les accords visant à limiter la production de produits) peuvent être illégaux. Si des sociétés de développement d’IA concurrentes s’accordent sur la vitesse de développement ou de publication de nouveaux modèles, des risques juridiques potentiels surgiront.
Huang Renxun a déclaré que les développeurs de modèles ont la capacité de garantir la sécurité des produits avant leur commercialisation.
"La sécurité est un problème d'ingénierie, et les tests sont également un problème d'ingénierie." Huang Renxun a déclaré : « Nous devrions créer des produits et les tester entièrement. Si le produit n'a pas encore atteint les normes de publication, reportez le lancement et continuez les tests et l'optimisation jusqu'à ce que le produit arrive à maturité. NVIDIA est un fournisseur important d'Anthropic et d'OpenAI, et NVIDIA elle-même a également développé la série Nemotron de modèles de pondération open source.
L'engouement pour l'IA a fait de Nvidia le plus grand fabricant de puces au monde et l'entreprise ayant la valeur marchande la plus élevée. Les propositions pertinentes visant à ralentir le développement de modèles hautes performances pourraient présenter des risques pour la croissance future de Nvidia.
Huang Renxun a déclaré à Cramer : "La sécurité de l'IA est un réel problème. La création de produits pouvant être utilisés en toute sécurité dans le monde entier ne peut être sous-estimée. Les entreprises doivent innover le plus rapidement possible, mais elles ne doivent pas lancer des produits présentant des risques de sécurité uniquement pour le plaisir de l'innovation."
Huang s'est également opposé aux avertissements selon lesquels des modèles d'intelligence artificielle de plus en plus puissants constitueraient une menace existentielle pour l'humanité.
Il a déclaré : "L'humanité ne disparaîtra pas en 2030. Il y a tellement de gens dans le monde qui développeront correctement l'intelligence artificielle. Nous établirons diverses mesures de protection et inventerons diverses technologies pour la sûreté et la sécurité."
Articles associés :
Huang Renxun a appelé à un assouplissement de la supervision externe de l'IA, affirmant que l'industrie a la capacité d'assurer la sécurité de manière indépendante
Commentaires