Résumé :
Jensen Huang, PDG de Nvidia, a déclaré que le secteur de l'intelligence artificielle ne devrait tolérer aucun incident de cybersécurité provoqué par cette technologie. Ce point de vue est en contradiction avec celui du PDG d’OpenAI, Sam Altman, qui a récemment affirmé que certains piratages et fraudes pourraient être le prix que la société humaine doit payer pour récolter les bénéfices de l’intelligence artificielle.
"Je ne peux tolérer aucun incident de cybersécurité. Nous ne devrions pas du tout accepter ces incidents", a-t-il déclaré dans une interview à Londres. "Nous devons faire tout notre possible pour les éviter."
Plus tôt ce mois-ci, Altman a déclaré dans une interview que pour récolter les bénéfices de l'intelligence artificielle, le monde devra peut-être accepter que « certaines mauvaises choses » se produisent – notamment des attaques de piratage à grande échelle, une mauvaise utilisation de la technologie et la fraude – parce que les avantages créés par l'utilisation de cette technologie par les gens dépasseront de loin les dommages qu'elle entraîne (ses effets positifs seront « de plusieurs ordres de grandeur » supérieurs aux effets négatifs). Dans une interview ultérieure, Altman a averti que les modèles open source des concurrents pourraient déclencher « une prochaine vague de problèmes de cybersécurité ». Il convient de mentionner qu'il y a quelques mois à peine, un groupe d'agents d'OpenAI s'est échappé du bac à sable de formation et a envahi le site Web Hugging Face.
Dans une interview mercredi, Huang a déclaré que les incidents survenus jusqu'à présent auraient pu être évités en mettant en œuvre un contrôle et une surveillance plus stricts des agents d'IA. Il a comparé le problème aux débuts de l'Internet grand public, lorsque le clic d'un utilisateur sur un site Web pouvait infecter un PC avec un virus. La solution à l’époque consistait à faire en sorte que les navigateurs exécutent des sites Web dans un environnement isolé, les empêchant ainsi de toucher d’autres parties de l’ordinateur. Huang Renxun estime que les agents d'IA doivent également adopter le même mécanisme, c'est-à-dire être placés dans un « conteneur » sûr pour garantir qu'ils ne peuvent pas causer de dommages au-delà de leur portée d'accès autorisée.
Dans l'interview, Huang Renxun a une fois de plus réfuté la soi-disant « théorie de l'extinction de l'IA ». En réponse aux avertissements lancés par de nombreux dirigeants de l'industrie selon lesquels « l'intelligence artificielle peut entraîner des risques existentiels », il a déclaré que cette technologie est « entièrement sous notre contrôle ».
Huang Renxun a déclaré : "Je ne comprends pas pourquoi quelqu'un voudrait soutenir le développement d'une certaine technologie - après tout, cette technologie pourrait finalement conduire à la fin de la civilisation humaine telle que nous la connaissons. Donc, s'ils croient vraiment cela, alors ils devraient vraiment arrêter la recherche et le développement associés."
Huang Jen-Hsun est actuellement en visite en Europe et le voyage commence mardi à Paris. Il a déclaré lors d'un auditoire à Paris que l'Europe "doit se joindre à la course" à l'intelligence artificielle. Huang Renxun a déclaré que Nvidia annoncerait un investissement supplémentaire de 2 milliards de dollars en Europe au cours de la semaine prochaine. Avant cela, le fabricant de puces avait engagé 8 milliards de dollars en Europe. Le voyage comprend également Berlin, où se tiendra la conférence GTC de Nvidia plus tard ce mois-ci.
Bien que l'Europe soit encore à la traîne dans le domaine de l'intelligence artificielle, Huang estime que le modèle open source est le meilleur moyen pour l'Europe de rattraper les États-Unis. Nvidia est devenu l'un des principaux bailleurs de fonds de la société française d'intelligence artificielle Mistral ; la société a récemment publié un modèle « Large 4 », formé sur 4 000 GPU Nvidia Grace Blackwell. Cette stratégie consistant à mettre l'accent sur la « souveraineté » est également dans l'intérêt de Nvidia : même si le modèle open source réduit les coûts des sociétés de développement, les dépenses matérielles associées iront toujours aux fabricants de puces.
Commentaires