Résumé :
Yann LeCun, lauréat du prix Turing 2018 et fondateur et président d'AMI Labs, a déclaré à Séoul le 12 octobre que la prochaine étape des avancées en matière d'intelligence artificielle viendra de systèmes capables de comprendre, de prédire et d'agir sur le monde physique, plutôt que de simplement étendre l'échelle des grands modèles de langage.
Il estime que les « modèles mondiaux » deviendront une direction technique importante pour promouvoir le développement de l'IA. Concernant les problèmes de sécurité causés par l'autonomie accrue de l'intelligence artificielle, Yang Likun a déclaré que les récents incidents de sécurité des réseaux impliquant des agents d'IA ont principalement révélé les failles du système de protection de sécurité existant, et que les risques associés peuvent être contrôlés en améliorant l'architecture du système et l'ingénierie de sécurité.
Yang Likun : Les grands modèles de langage ne disposent pas d'une compréhension fiable de la relation causale dans le monde physique
Yang Likun a déclaré lundi lors d'un symposium sur l'intelligence artificielle industrielle à Séoul que, même si les grands modèles de langage actuels peuvent efficacement apprendre des connaissances à partir de textes, d'images et de vidéos, ils manquent encore d'une compréhension fiable des causes et des effets dans le monde physique.
Il a souligné que l'intelligence artificielle peut déjà prouver des théorèmes mathématiques et réussir des examens professionnels, mais que les robots ont encore du mal à accomplir de nombreuses tâches ménagères quotidiennes que des enfants de 10 ans peuvent maîtriser sans formation. Cet écart de capacité reflète le fait que les systèmes d’IA actuels présentent encore des limites évidentes en termes de compréhension de l’environnement physique, de planification d’action et d’interaction dans le monde réel.
Yang Likun estime que l'orientation importante du développement de la technologie de l'IA dans la prochaine étape réside dans les modèles mondiaux, c'est-à-dire les systèmes d'intelligence artificielle capables de prédire comment l'environnement physique changera avec des actions spécifiques. Contrairement aux modèles linguistiques, qui accomplissent des tâches principalement en prédisant le mot suivant ou les modèles d'apprentissage à partir de données générées par l'homme, les modèles mondiaux sont conçus pour aider l'IA à comprendre la relation entre les actions et les résultats et à planifier une série d'actions basées sur des objectifs. Par exemple, les robots doivent être capables de prédire comment l’environnement va changer après avoir déplacé ou saisi un objet afin d’accomplir de manière fiable des tâches complexes dans le monde réel.
AMI Labs, fondé par Yang Likun, fait progresser cette voie technologique grâce à l'architecture prédictive à intégration conjointe (JEPA) et explore comment rendre l'intelligence artificielle plus fiable dans les capacités de prévision environnementale et de planification d'action.
À mesure que la technologie de l'IA s'étend progressivement du traitement des connaissances et de la génération de contenu à des domaines tels que la robotique et l'automatisation industrielle, Yang Likun considère les modèles mondiaux comme une base technique importante pour réaliser l'intelligence dans le monde physique. Cependant, des technologies pertinentes sont encore en cours de développement, et il reste à vérifier si elles peuvent permettre des prévisions fiables, une planification indépendante et un déploiement à grande échelle dans des environnements réels complexes.
Yang Likun réfute les inquiétudes selon lesquelles l'IA serait hors de contrôle : de récents incidents de sécurité ont révélé des failles de protection technique
En discutant des perspectives de développement des capacités d'action autonomes de l'IA, Yang Likun a également répondu aux récents incidents de cybersécurité impliquant des agents d'intelligence artificielle et s'est opposé à l'interprétation de ces incidents comme si l'IA devenait incontrôlable.
Concernant les récentes cyberattaques liées à l'IA rencontrées par le secteur financier sud-coréen, Yang Likun estime que le problème provient principalement du manque de capacités professionnelles suffisantes en matière de sécurité réseau des entreprises déployant des agents d'IA et des vulnérabilités de sécurité du système sandbox utilisé pour restreindre le comportement des logiciels. Il a souligné que les grands modèles de langage actuels peuvent effectivement être sujets à des attaques de jailbreak, contournant les restrictions de sécurité établies au moyen de mots d'invite spécifiques, et qu'il est difficile de contraindre complètement leur comportement en s'appuyant simplement sur un réglage fin du modèle.
Cependant, Yang Likun estime que les futurs systèmes d'IA axés sur les objectifs devraient évaluer de manière proactive les contraintes de sécurité avant d'effectuer des opérations, améliorant ainsi les lacunes des modèles existants en matière de contrôle comportemental. Plutôt que de s'appuyer uniquement sur des règles de sécurité établies lors de la phase de formation du modèle, ces systèmes peuvent intégrer des contrôles de sécurité supplémentaires lors de la planification et de l'exécution des actions.
Il a reconnu que la réalisation de cette capacité n'est pas une tâche technique simple, mais a souligné que les questions connexes relevaient toujours de la conception technique. À long terme, l’IA pourrait même donner un avantage aux cyberdéfenseurs, dans la mesure où les agences de défense disposent généralement de plus de ressources et sont en mesure de partager plus ouvertement les informations de sécurité et leurs expériences en matière de défense.
Ce jugement diffère de certains points de vue qui mettent l’accent sur le risque potentiel de perte de contrôle des systèmes d’IA avancés. Yang Likun a également souligné que grâce à la conception de l'architecture du système, aux restrictions de l'autorité d'exécution et aux mécanismes de protection de la sécurité, il faut garantir que le comportement des systèmes d'IA autonomes se situe dans une plage contrôlable.
Dans sa vision technique, l'intelligence artificielle du futur aura progressivement la capacité de comprendre l'environnement réel, de prédire les conséquences des actions et d'accomplir des tâches de manière autonome. Comment améliorer ces capacités tout en établissant des contraintes de sécurité fiables deviendra une question importante qui devra être résolue dans le développement de modèles mondiaux et de systèmes autonomes associés.
Commentaires