Récemment, l'équipe du professeur Zhang Yue de l'Université de West Lake a développé un système scientifique d'IA, DeepScientist, qui a attiré l'attention de nombreux internautes. Selon les rapports,DeepScientist est le premier système scientifique d'IA doté de capacités de recherche scientifique complètes qui démontrent une itération continue et orientée vers des objectifs et surpassent progressivement les résultats de recherche les plus avancés des chercheurs humains sans intervention humaine.
Cependant, de nombreux internautes craignent qu’un système d’IA qui ne nécessite pas d’intervention humaine risque de faire perdre le contrôle à l’orientation de la recherche ou d’être induit en erreur.
À cet égard, Zhang Yue a déclaré : « Les problèmes de sécurité de l'IA ont toujours été un problème auquel nous attachons une grande importance, c'est pourquoi DeepScientist l'a rendu public et nous avons également adopté une stratégie prudente. »
Selon lui, la recherche sur l’IA elle-même et la recherche sur la sécurité de l’IA doivent aller de pair, et Zhang Yue croit fermement que l’IA est contrôlable.
Il a également déclaré : « En tant que spécialiste des modèles de langage d’IA, nous avons une relativement bonne compréhension du mécanisme de fonctionnement des modèles de langage, j’ai donc une attitude relativement positive envers la contrôlabilité de l’IA.J'encourage également fortement les étudiants à utiliser les outils d'IA le plus tôt possible et davantage. Après tout, les gens du futur devront travailler ensemble avec l’IA. "
