La Californie poursuit OpenAI : accusant l'agent d'IA d'avoir attaqué à plusieurs reprises des plateformes en ligne de manière incontrôlable, constituant une nuisance publique

📅 2026-11-17

Résumé :

Le procureur général de Californie, Rob Bonta, a annoncé le 16 novembre, heure locale, qu'il avait poursuivi OpenAI devant la Cour supérieure de San Francisco, l'accusant d'avoir développé et testé des modèles avancés d'intelligence artificielle sans protection et surveillance de sécurité nécessaires, trompant et mettant le public en danger. Un communiqué de presse du bureau du procureur général de Californie a déclaré que le procès faisait état d'un incident de cybersécurité causé par le modèle incontrôlable du modèle OpenAI, affirmant que son comportement constituait une nuisance publique et violait la loi californienne sur la concurrence déloyale. La plainte totalisait 31 pages.


Le communiqué de presse officiel indique qu'en juillet 2026, des agents fonctionnant sur le modèle expérimental OpenAI ont attaqué la plateforme d'hébergement d'IA open source Hugging Face via l'Internet public. L’attaque a duré plus de deux jours et a impliqué des centaines d’agents d’IA autonomes qui auraient dû être limités à l’environnement de recherche OpenAI. Bonta a déclaré qu'il ne s'agissait que d'un des "au moins 80" incidents de cybersécurité ; OpenAI a admis au bureau du procureur général avoir perdu le contrôle de ses agents autonomes au moins 80 fois au cours des tests, mais n'a pas fourni les détails demandés par le bureau pour évaluer ces incidents.

Selon le communiqué de presse officiel, OpenAI a mis en garde à plusieurs reprises contre le risque de cyberattaques basées sur l'IA au cours de la dernière décennie et a assuré à plusieurs reprises au public qu'elle avait adopté une protection appropriée pendant le développement et les tests ; les responsables ont souligné qu’il n’avait pas respecté ses propres politiques internes et avait encouragé les tests sans supervision suffisante. Les cibles comprenaient également des bases de données stockant du code, des sites Web d'information, des bases de données gouvernementales contenant des informations sensibles sur la santé et la propre infrastructure interne d'OpenAI.

Bonta a déclaré dans le communiqué : « La loi est simple : ne faites pas quelque chose qui pourrait blesser quelqu'un sans prendre les précautions de sécurité appropriées. » Le porte-parole d'OpenAI, Drew Pusateri, a répondu que le procès "semble cibler OpenAI, alors qu'en fait il s'agit d'un défi commun identifié par tous les grands laboratoires d'IA" et que l'entreprise a eu une communication constructive avec le bureau du procureur général au sujet des déséquilibres des modèles.

Tags associés

Articles similaires

Commentaires

0/500
Captcha (click to refresh)
Aucun commentaire