Résumé :
Le 4 novembre, selon Reuters, OpenAI a révélé en octobre de cette année que la société avait découvert un appareil d'enregistrement qui avait été secrètement placé dans une salle de conférence de direction. De nombreux anciens employés d’OpenAI ont eu la même réaction : ils n’étaient pas surpris.
Alfzan est accusé d'avoir installé du matériel d'écoute
Le ministère américain de la Justice a déclaré le 13 octobre que les responsables de l'application des lois fédérales américaines avaient arrêté un Saoudien, Abdulrahman Alfozan, et l'avaient accusé d'avoir installé un appareil d'enregistrement caché dans une salle de conférence. L'appareil a été caché dans du papier toilette pour éviter d'être détecté. Alfzan, aujourd'hui âgé de 35 ans, était à l'époque ingénieur chez OpenAI.
Selon cinq personnes proches du dossier, avant même qu'OpenAI ne lance ChatGPT fin 2022, certains employés de l'entreprise avaient déjà fait part de leurs inquiétudes en interne quant à ses pratiques de sécurité. Ces employés avaient exprimé leurs inquiétudes auprès de la haute direction et du conseil d’administration d’OpenAI. Cependant, certains employés, après avoir discuté avec la direction et le conseil d'administration, ont conclu que la direction se concentrait davantage sur la concurrence avec des concurrents comme Google et Anthropic que sur la sécurité elle-même.
Ces employés estiment que les contrôles de sécurité d'OpenAI sont trop souples, permettant à des tiers, y compris des gouvernements étrangers, d'obtenir relativement facilement les informations techniques sensibles de l'entreprise, ont déclaré des personnes proches du dossier. Par exemple, tout employé d'OpenAI ayant accès au code de l'entreprise peut consulter les détails techniques de nombreux projets de l'entreprise.
Selon deux personnes proches du dossier, OpenAI a commencé à ajuster sa stratégie pour faire face aux problèmes de sécurité. Thibault Sottiaux, membre de la haute direction supervisant le développement des produits, a récemment pris en charge une initiative interne visant à renforcer la sécurité des systèmes internes d'OpenAI. En août, Sotio a redéployé un quart des ingénieurs de production d'OpenAI pour améliorer son infrastructure de sécurité.
Ces avertissements internes, qui incluent des années de plaintes d'employés auprès de la direction concernant des vulnérabilités internes, dont certaines n'ont pas été signalées auparavant, révèlent une tension au sein du domaine de l'IA. Depuis le lancement de ChatGPT fin 2022, la technologie de l’IA est devenue un atout stratégique pour les États-Unis, qui ont fait pression sur les entreprises américaines pour qu’elles protègent leur technologie des concurrents étrangers.
Cependant, l’ajout de couches de protection de sécurité pourrait également ralentir les progrès de la technologie de l’IA et compliquer les projets d’introductions en bourse massives d’OpenAI et d’Anthropic. Ces introductions en bourse les placeront parmi les sociétés les plus valorisées au monde.
La vitesse de développement de l'IA est plus importante
Will DePue, un ancien chercheur qui a démissionné d'OpenAI en avril de cette année, a posté sur
Interrogée sur les préoccupations des employés et leur perception selon laquelle la direction ne prend pas de mesures sur ces questions, la porte-parole d'OpenAI, Elana Widmann, a déclaré qu'OpenAI est l'une des organisations les plus ciblées au monde. C'est pourquoi les entreprises investissent massivement dans leurs programmes de sécurité pour se protéger contre les attaques internes, les cybercriminels et les acteurs étatiques, a-t-elle déclaré.
"La protection de notre technologie, de nos données et de nos employés est une responsabilité que nous prenons très au sérieux et constitue une tâche d'importance nationale. Nos actions récentes démontrent que ce mécanisme de sécurité fonctionne : identifier les risques et y répondre de manière décisive. À mesure que les technologies et les menaces continuent d'évoluer, nous continuerons à renforcer nos capacités de défense." » dit Weidman.
Commentaires