Résumé :
Le PDG d'Intel, Lip-Bu Tan, a récemment déclaré que la dynamique de développement de l'intelligence artificielle est loin d'avoir atteint son apogée et que son influence future pourrait même dépasser celle d'Internet. Cependant, dans le processus d’expansion rapide de l’IA, l’industrie est confrontée à une série de goulots d’étranglement majeurs. L’un des défis les plus importants est de savoir comment garantir qu’à l’avenir, des milliards, voire plus, d’agents IA (agents IA) n’effectueront pas d’opérations non autorisées.
Chen Liwu a exprimé les opinions ci-dessus lors d'une communication avec Jasper Zhang, PDG d'Hyperbolic, une startup d'infrastructure d'intelligence artificielle. La discussion intervient après qu'Hyperbolic a clôturé une ronde de financement de 30 millions de dollars soutenue par la branche de capital-risque de Chen Liwu, Walden Catalyst.
En parlant des perspectives de développement de l'industrie de l'intelligence artificielle, Chen Liwu a exprimé son optimisme. Il estime que la vague de l'IA continuera de progresser et que son ampleur pourrait même dépasser l'impact créé par l'ère Internet. Cependant, il a également souligné que le problème central auquel l'industrie est confrontée n'est plus la demande, mais « à quelle vitesse la vitesse d'expansion peut-elle être ?
Selon lui, la construction d'une infrastructure d'intelligence artificielle est limitée par de multiples facteurs. Ceux-ci incluent un approvisionnement insuffisant en mémoire hautes performances, une pénurie de GPU, des ressources énergétiques limitées et des capacités limitées de construction de centres de données. Alors que de plus en plus d’entreprises investissent dans le domaine de l’IA, la demande en ressources informatiques continue d’augmenter. Ces facteurs deviennent de véritables obstacles au développement de l’industrie.
En plus des problèmes d'approvisionnement en matériel, la pression financière devient également un nouveau goulot d'étranglement. Chen Liwu a déclaré que la construction de centres de données d'intelligence artificielle à grande échelle nécessite des investissements en capital extrêmement importants et que la capacité d'obtenir des fonds limite progressivement l'expansion de l'industrie. « Le financement devient l’un des freins à la croissance », a-t-il souligné.
En fait, Chen Liwu a mis en garde à plusieurs reprises contre le déséquilibre entre l'offre et la demande d'infrastructures d'IA. Il a un jour prédit que la pénurie de matériel informatique associé pourrait durer trois ans et a souligné que ce n'est que lorsque les investisseurs pourront continuer à voir un retour sur investissement (ROI) clair que des fonds à grande échelle continueront d'affluer vers le secteur de l'intelligence artificielle.
Cependant, comparé aux problèmes de matériel et de financement, Chen Liwu estime qu'un autre défi à plus long terme et plus complexe est en train d'émerger, à savoir le problème de sécurité des agents d'IA.
À mesure que les agents d'IA acquièrent progressivement la capacité d'effectuer des tâches de manière autonome, d'appeler des outils, d'accéder aux systèmes et d'aider à la prise de décision, le nombre d'agents d'IA en activité dans le monde pourrait atteindre des milliards à l'avenir. Comment garantir que ces systèmes fonctionnent toujours dans le cadre de l'autorisation et éviter d'effectuer des actions au-delà de leur autorisation deviendra un problème que l'ensemble de l'industrie devra résoudre.
Chen Liwu a déjà révélé qu'il laissait souvent les agents d'IA continuer à travailler la nuit et vérifier les résultats du travail le lendemain matin. Cette utilisation est similaire à celle des leaders de l’industrie technologique tels que le PDG de Microsoft, Satya Nadella, et reflète l’entrée progressive des agents d’IA dans les environnements de production réels.
Cependant, plus les tâches impliquées dans le système d'agent sont complexes, plus les risques de sécurité sont importants. Chen Liwu estime qu'à l'avenir, l'industrie devra établir un mécanisme plus complet pour garantir que les agents d'IA peuvent opérer dans des limites contrôlables afin de les empêcher d'effectuer des opérations non approuvées ou de provoquer des risques potentiels.
Malgré les défis, Chen Liwu reste optimiste quant aux perspectives à long terme de l'intelligence artificielle. Il estime que l'humanité en est actuellement aux premiers stades du développement de l'ère de l'IA et que les opportunités d'innovation et d'affaires liées à l'intelligence artificielle des agents (Agentic AI) seront encore énormes à l'avenir.
Selon lui, la capacité du futur secteur de l'intelligence artificielle à réellement libérer tout son potentiel dépend non seulement de la puissance de calcul et des investissements en capital, mais également de la capacité du secteur à établir un système de sécurité suffisamment fiable pour que des milliards d'agents d'IA puissent maintenir des conditions de fonctionnement prévisibles, contrôlables et fiables tout en acquérant des capacités autonomes.
Commentaires