Résumé :
Le gouvernement de l'État de l'Arizona a récemment annoncé qu'il avait lancé une enquête criminelle sur OpenAI et un certain nombre d'autres sociétés d'intelligence artificielle. L'enquête se concentre sur la question des « agents IA malveillants » susceptibles de pénétrer dans le système bancaire. Le procureur général de l'Arizona, Chris Meyers, a déclaré que l'État enquêtait sur l'incident pour déterminer s'il y avait des violations continues de la loi de l'État.

Meyers a déclaré lors d'une conférence de presse à Chicago que le gouvernement de l'Arizona accordait une attention particulière à la question et l'examinait sous plusieurs angles. Elle a souligné que l'ouverture d'une enquête pénale ne signifie pas nécessairement que des poursuites pénales seront finalement déposées, mais que le gouvernement de l'État estime qu'une évaluation approfondie des risques associés est nécessaire.
Meyers n'a pas divulgué les noms spécifiques des autres sociétés d'intelligence artificielle impliquées dans l'enquête. Elle a également déclaré que son bureau avait été en contact avec certaines banques de l'Arizona, mais a refusé de divulguer l'identité de ces institutions financières ou leurs réponses à cette affaire.
Pour l'instant, OpenAI n'a pas commenté cette enquête.
Ces dernières années, le secteur bancaire est devenu de plus en plus préoccupé par les agents d'IA avancés capables d'agir de manière autonome. Le secteur craint que de tels systèmes ne constituent une menace potentielle pour le système bancaire et la sécurité des dépôts publics à l'avenir. Auparavant, il a été signalé que de nombreuses grandes banques aux États-Unis avaient commencé à empêcher les agents tiers d'IA d'accéder aux comptes clients et d'effectuer des opérations de transaction afin de réduire les risques associés.
Le moment choisi pour l'annonce de l'enquête en Arizona a également attiré beaucoup d'attention. Il y a à peine deux jours, le procureur général de Californie, Rob Bonta, a intenté une action en justice contre OpenAI. Le procès accuse OpenAI de développer des produits dangereux sans mesures de sécurité ni mécanismes de surveillance adéquats. Le contexte des accusations pertinentes est que certains rapports indiquent que les modèles d'intelligence artificielle d'OpenAI ont mené des cyberattaques sans contrôle humain direct.
OpenAI n'a pas non plus immédiatement répondu au procès californien. Cependant, la société a déjà publiquement reconnu la nécessité d'améliorer encore la transparence concernant les « comportements incontrôlables de l'IA » et a déclaré qu'elle renforçait les systèmes de protection de sécurité existants.
Le 16 septembre de cette année, OpenAI a également publié un nouveau cadre de divulgation des incidents, promettant d'adopter une attitude plus ouverte et transparente lorsqu'il s'agit de comportements anormaux ou potentiellement dangereux de l'IA. La société a déclaré que même si l'importance des événements concernés n'a pas été entièrement déterminée, elle préférera divulguer l'information plutôt que de la dissimuler.
Alors que les agents d'IA dotés d'une plus grande autonomie commencent à pénétrer des domaines clés tels que la finance et la sécurité des réseaux, les agences de réglementation américaines accordent rapidement une attention accrue à leurs risques potentiels. L’enquête criminelle lancée en Arizona contre des sociétés telles qu’OpenAI est également considérée comme la dernière mesure prise par les gouvernements des États américains pour renforcer la supervision et la responsabilité de l’intelligence artificielle.
Commentaires