Le 5 mars, Dario Amodei, co-fondateur et PDG de la société américaine d'IA Anthropic, s'est montré assez mécontent du PDG d'OpenAI, Sam Altman. Selon le site technologique The Information, Amodei a qualifié la coopération d’OpenAI avec le ministère américain de la Défense (également connu sous le nom de ministère de la Guerre) de « démonstration de sécurité » dans une note d’employé.
Amodeï
"OpenAI a accepté l'accord du DoD et nous ne l'avons pas fait, principalement parce qu'ils étaient soucieux d'apaiser leurs employés, alors que notre véritable préoccupation était d'empêcher les abus de la technologie", a écrit Amodei.
Les négociations entre Anthropic et le département américain de la Défense ont échoué la semaine dernière, la société ayant rejeté la demande de ce dernier d'utiliser sans restriction l'IA. Anthropic a déjà signé un contrat de 200 millions de dollars avec l'armée américaine et a exigé un engagement clair du ministère de la Défense de ne pas utiliser sa technologie d'IA pour la surveillance de masse nationale ou le développement d'armes autonomes.
Au lieu de cela, le département américain de la Défense a finalement conclu un accord avec OpenAI. Altman a déclaré que le nouveau contrat du ministère de la Défense de l'entreprise inclurait des protections similaires aux « lignes rouges » sur lesquelles insiste Anthropic.
Cependant, Amodei a déclaré dans une note aux employés que la déclaration d'OpenAI était un "mensonge total" et qu'Altman "se déguisait hypocritement en médiateur et négociateur".
Les remarques d’Amodei ne sont peut-être pas simplement motivées par un ressentiment personnel. Les objections d'Anthropic se concentrent sur l'insistance du ministère américain de la Défense sur le fait que sa technologie d'IA peut être utilisée à « n'importe quelle fin licite ». OpenAI a déclaré dans un article de blog que son contrat permet aux systèmes d'IA de l'entreprise d'être utilisés à « toutes fins légales ».
OpenAI a précédemment déclaré dans un article de blog : « Au cours de nos communications, le ministère de la Défense a clairement indiqué qu'il pensait que la surveillance de masse nationale était illégale et qu'il n'avait pas l'intention d'utiliser l'IA à cette fin. Nous nous sommes assurés que le contrat indiquait clairement que cette situation n'était pas couverte par des « utilisations licites ».
Les critiques soulignent cependant que la loi n’est pas gravée dans le marbre et que des comportements considérés comme illégaux aujourd’hui pourraient être autorisés à l’avenir.
Amodei a déclaré aux employés : « Je ne pense pas que cette tentative de blanchir/obscurcir le public ou les médias ait beaucoup d'effet sur le public ou les médias. La plupart des gens pensent que l'accord d'OpenAI avec le ministère de la Défense n'est pas fiable ou suspect, et ils nous considèrent comme des héros (nous sommes actuellement classés deuxièmes sur l'App Store).
Pour l’instant, le public semble davantage pencher pour soutenir Anthropic. Après qu'OpenAI ait conclu un accord avec le ministère américain de la Défense, les désinstallations de ChatGPT ont augmenté de 295 %.