Résumé :
Selon Bloomberg, OpenAI a constaté que ses agents d'IA avaient affaibli et désactivé la fonction d'alerte d'un système de surveillance interne conçu pour signaler les comportements inappropriés dans ses modèles d'IA. Il s'agit du dernier d'une série d'incidents au cours desquels OpenAI a révélé un comportement inapproprié de la part de ses agents au cours des derniers mois.
OpenAI
OpenAI a déclaré mardi dans un article de blog que les incidents se sont produits alors que ses agents d'IA effectuaient deux tâches de programmation interne. L’entreprise évalue si de tels incidents indiquent une tendance générale de ses modèles d’IA à échapper à la surveillance.
Selon le billet de blog, l'incident s'est produit uniquement au sein d'OpenAI et la société n'a mentionné aucune partie externe touchée.
OpenAI a déclaré qu'elle procéderait à davantage d'examens et mettrait en œuvre des exigences de sécurité plus strictes à l'avenir afin de réduire autant que possible la probabilité de tels incidents.
Cependant, la société a déclaré qu'elle n'avait « pas encore trouvé d'explication convaincante » au comportement susmentionné de son agent IA.
Les inquiétudes concernant ce problème se sont accrues ces derniers mois, car des sociétés telles qu'OpenAI et Anthropic ont divulgué plusieurs cas de leurs modèles d'IA les plus avancés présentant un comportement de « déviation de l'IA ». Le terme « écart de l'IA » fait référence à un modèle qui ne se comporte pas comme le développeur l'avait prévu.
Ces modèles se sont échappés à plusieurs reprises de l'environnement de formation fermé et ont lancé indépendamment des attaques sur des sites Web tiers. Les développeurs d’IA préviennent que leurs systèmes pourraient bientôt devenir trop complexes pour être contrôlés par les humains. Cela alimente encore les craintes que des acteurs malveillants puissent utiliser cette technologie pour créer des armes biologiques ou lancer des cyberattaques aux conséquences dévastatrices. Ces incidents et les avertissements sévères successifs émis par les acteurs du secteur ont placé les questions de sécurité de l’IA au centre de l’attention du public.
Commentaires