Caitlin Kalinowski, responsable de l'ingénierie matérielle et robotique d'OpenAI, a récemment annoncé qu'elle avait démissionné de l'entreprise. Elle dirigera l'équipe de robotique d'OpenAI à partir de novembre 2024. Elle a posté sur X et LinkedIn : « J'ai démissionné d'OpenAI. Je me soucie profondément de l'équipe de robotique et du travail que nous avons accompli ensemble.

Elle a souligné que sa décision concernait « des principes et non des individus », et a déclaré qu'elle avait toujours un profond respect pour Sam Altman et l'équipe et qu'elle était fière des résultats que nous avons obtenus ensemble.

Le départ de Kalinowski intervient au milieu d'un débat croissant au sein de l'industrie sur la mesure dans laquelle les sociétés d'IA devraient soutenir l'utilisation de leur technologie par l'armée américaine. Les négociations entre le ministère américain de la Défense et Anthropic ont récemment échoué en raison de l'insistance de l'entreprise sur des restrictions strictes en matière de surveillance intérieure et d'utilisation d'armes autonomes. Peu de temps après l’échec des négociations, OpenAI a conclu un accord avec le Pentagone pour déployer ses modèles d’IA sur un réseau gouvernemental classifié. Cette décision a suscité les critiques de certains employés et observateurs, qui pensaient qu'OpenAI prenait le relais après qu'Anthropic ait rejeté les conditions pertinentes. En réponse, le PDG d'OpenAI, Sam Altman, a admis plus tard que la présentation externe de l'accord « semblait opportuniste », et la société a depuis commencé à clarifier davantage les limites de la manière dont ses systèmes d'IA peuvent être utilisés par l'armée.

Un porte-parole d'OpenAI a publié une déclaration confirmant le départ de Kalinowski, affirmant que l'entreprise estime que l'accord conclu avec le Pentagone offre une voie réalisable pour « une utilisation responsable de l'IA dans le domaine de la sécurité nationale » et trace clairement la ligne rouge : ni pour la surveillance intérieure ni pour les armes autonomes. Le communiqué souligne que l'entreprise reconnaît que le public a de fortes divergences sur ces questions et continuera à maintenir le dialogue avec les employés, les gouvernements, la société civile et les communautés du monde entier.

Avant de rejoindre OpenAI, Kalinowski était engagé depuis longtemps dans le développement de produits matériels dans de grandes entreprises technologiques. Elle a travaillé comme responsable du matériel chez Meta pendant plus de deux ans et demi, dirigeant le projet de lunettes de réalité augmentée nommé « Projet Nazare » et plus tard officiellement nommé « Orion », un produit que Meta appelle « les lunettes AR les plus avancées jamais fabriquées ». En septembre 2024, Meta a présenté un prototype de ces lunettes AR. Avant de prendre en charge le projet Orion, elle a travaillé chez Meta's Oculus pendant plus de neuf ans, se concentrant sur le développement de casques de réalité virtuelle. Avant cela, elle a travaillé chez Apple pendant près de six ans, participant à la conception de produits MacBook, notamment les modèles Pro et Air.

Le départ de Kalinovsky met en évidence les tensions et les désaccords sur les frontières éthiques dans le domaine de l'IA concernant le double usage militaire et civil, en particulier la surveillance et les armes mortelles autonomes. D’une part, il existe une forte demande de capacités avancées d’IA de la part des agences de sécurité nationale, et d’autre part, les techniciens et les entreprises s’inquiètent constamment de la protection de la vie privée, du contrôle humain et des risques liés à l’automatisation de la guerre. À mesure que les négociations entre le ministère américain de la Défense et les grandes sociétés d’IA avancent, des conflits de valeurs et des flux de personnel similaires pourraient continuer à remodeler les voies techniques et les limites éthiques de cette industrie émergente.