Résumé :
Un porte-parole d'OpenAI a révélé que le président d'OpenAI, Greg Brockman, ferait bientôt une annonce visant à étendre le pouvoir d'ouvrir les outils d'IA de l'entreprise aux infrastructures critiques et aux agences du secteur public. L'intrusion accidentelle de Hugging Face par OpenAI, associée à de multiples cyberattaques contre des systèmes d'eau américains soupçonnés d'utiliser l'IA, a suscité de grandes inquiétudes de la part du monde extérieur quant à la vulnérabilité de diverses installations publiques aux futures attaques de pirates informatiques pilotées par l'IA.
Le porte-parole a déclaré que Brockman annoncerait officiellement les informations ci-dessus lors du sommet sur la cybersécurité qui se tiendra jeudi au siège d'OpenAI.
Environ 300 responsables de la sécurité d'entreprise et responsables de la sécurité de l'information de sociétés Fortune 100 sont attendus à cette réunion.
Le sujet principal de ce sommet : comment les entreprises, les gouvernements et les fournisseurs de sécurité réseau permettent aux défenseurs (agences d'infrastructures critiques, services publics) d'utiliser les outils d'IA.
Cette réunion et l'annonce à venir sont la réponse d'OpenAI aux risques de sécurité des modèles. Hugging Face a déjà été piraté et le prochain modèle Astra d’OpenAI dispose déjà de capacités de cyberattaque de « niveau critique ».
Plus tôt cette semaine, un rapport mentionnait qu'OpenAI développait une nouvelle technologie de formation, ce qui a également suscité des inquiétudes dans le secteur : les praticiens de la sécurité peuvent-ils toujours voir clairement la logique de raisonnement du modèle ?
OpenAI a publié une lettre ouverte la semaine dernière, avertissant que les organisations n'ont que quelques mois pour répondre à la menace de cyberattaques basées sur l'IA.
Brockman lui-même a émis un avertissement similaire dans un article le mois dernier.
La sensibilisation à la protection des infrastructures critiques n'est que la première étape, et elle ne peut pas résoudre les problèmes pratiques d'insuffisance de fonds et de pénurie de talents au sein des équipes de sécurité auxquels ces institutions sont généralement confrontées.
Commentaires