Résumé :
L'Institut supérieur coréen des sciences et technologies (KAIST) et Microsoft Research Asia ont développé un nouveau type de technologie d'interface cerveau-ordinateur capable d'identifier en temps réel si l'intelligence artificielle a mal compris les intentions de l'utilisateur en analysant les ondes cérébrales humaines et d'ajuster son comportement en conséquence. L'équipe de recherche estime que cette technologie devrait faire passer l'intelligence artificielle à une nouvelle étape, de « l'obéissance aux instructions » à la « compréhension des intentions ».
Les chercheurs ont baptisé cette technologie « Neural Value Alignment (NVA) ». Le système utilise l'électroencéphalographie (EEG) pour surveiller l'activité neuronale produite par les utilisateurs lorsqu'ils regardent l'intelligence artificielle effectuer des tâches. Lorsque l'IA se trompe d'objectif ou effectue une action non attendue par l'utilisateur, le cerveau génère un signal d'erreur de prédiction spécifique. Le système peut capturer ces changements et les convertir en informations de retour, permettant à l'IA de se rendre compte qu'il y a un écart dans sa compréhension.
Depuis longtemps, même si l'intelligence artificielle a démontré de puissantes capacités dans de nombreux domaines, des malentendus surviennent encore souvent dans la communication entre les humains et l'IA. Même si l'utilisateur donne des invites détaillées, l'IA peut générer des résultats pertinents mais inexacts comme prévu. L’équipe de recherche estime que la racine du problème réside dans le fait que l’intelligence artificielle s’appuie principalement sur des informations externes telles que le langage, les actions et les gestes pour déduire des intentions, et que ces comportements eux-mêmes sont souvent ambigus.
Les chercheurs ont donné un exemple selon lequel, en ramassant une tasse, une personne peut boire de l'eau, nettoyer la tasse, la déplacer ou la passer à quelqu'un d'autre ; à l’inverse, si l’objectif est d’étancher la soif, les gens peuvent également y parvenir de différentes manières, par exemple en prenant une tasse, en se procurant une bouteille d’eau ou en demandant de l’aide aux autres. Il est souvent impossible de déterminer avec précision le véritable objectif en observant simplement le comportement lui-même.
Afin de résoudre ce problème de « l'ambiguïté des objectifs et des actions », l'équipe de recherche a porté son attention sur le cerveau humain lui-même. Lorsque les résultats réels ne correspondent pas aux attentes des gens, le cerveau génère naturellement des signaux d’erreur de prédiction spéciaux. Le système NVA utilise cette réponse neuronale comme source d’informations supplémentaire pour aider l’intelligence artificielle à déterminer dans quel lien elle a des malentendus.
L'équipe de recherche s'est concentrée sur deux types de signaux nerveux cérébraux. Un type est « l'erreur de prédiction de récompense », qui indique si le résultat répond aux objectifs personnels et aux attentes en matière de valeur ; l'autre type est « l'erreur de prédiction d'état », qui indique si la situation réelle est cohérente avec le processus attendu par le cerveau. En analysant ces deux signaux en même temps, le système peut non seulement détecter les erreurs dans la compréhension de l'IA, mais également déterminer si les erreurs se produisent au niveau cible ou au niveau de la méthode d'exécution.
Les résultats expérimentaux montrent qu'après l'introduction du retour EEG, l'intelligence artificielle peut déduire plus précisément la véritable intention de l'utilisateur et corriger de manière proactive les écarts pendant l'exécution de la tâche sans que l'utilisateur ait besoin de répéter constamment les instructions ou d'en émettre de nouvelles.
L'équipe de recherche a déclaré que ce résultat devrait être appliqué à des scénarios tels que les robots, les systèmes de collaboration homme-machine et les assistants intelligents. Par exemple, lorsqu'un futur robot domestique effectue une tâche, s'il détecte la réaction « ce n'est pas le résultat que je souhaite » dans l'esprit de l'utilisateur, il peut ajuster de manière proactive son plan d'action sans attendre d'instructions explicites.
Les chercheurs pensent que cela signifie que l'intelligence artificielle ne pourra plus se contenter de répondre passivement aux commandes à l'avenir, mais qu'elle pourra utiliser la technologie d'interface cerveau-ordinateur pour comprendre les véritables intentions humaines cachées derrière le langage, permettant ainsi une collaboration homme-machine plus naturelle et plus efficace. À mesure que les recherches pertinentes continuent de progresser, les systèmes intelligents de nouvelle génération, capables de détecter le retour cognitif humain et de modifier le comportement en temps réel, pourraient progressivement devenir une réalité.
Commentaires