OpenAI a déclaré samedi que l’accord conclu la veille avec le Pentagone américain pour déployer la technologie sur les réseaux classifiés du ministère de la Défense comprenait des garanties supplémentaires pour standardiser les scénarios d’utilisation de la technologie. Vendredi, le président américain Trump a ordonné au gouvernement de mettre fin à sa coopération avec Anthropic, et le Pentagone a annoncé que la startup était répertoriée comme présentant un risque pour la chaîne d'approvisionnement. Cette décision constitue un coup dur pour le laboratoire d’intelligence artificielle suite à une confrontation sur les mesures de sécurité techniques. Anthropic a déclaré qu'elle plaiderait toute détermination de risque devant les tribunaux.
Peu de temps après, OpenAI, un concurrent soutenu par des investisseurs tels que Microsoft, Amazon et SoftBank, a également annoncé vendredi soir son propre accord de coopération.
OpenAI a déclaré samedi : "Nous pensons que notre accord impose plus de contraintes en matière de protection de la sécurité que n'importe quel précédent accord confidentiel de déploiement d'intelligence artificielle, y compris Anthropic."
La société d'intelligence artificielle a déclaré que le contrat signé avec le Département américain de la Défense, rebaptisé « Département de la Guerre » par l'administration Trump, fixe trois lignes rouges :
La technologie OpenAI ne doit pas être utilisée pour la surveillance de masse nationale aux États-Unis, pour commander des systèmes d’armes autonomes ou pour toute prise de décision automatisée à haut risque.
OpenAI a déclaré : « Dans l'accord, nous protégeons ces lignes rouges grâce à une approche plus complète et à plusieurs niveaux. Nous avons le plein pouvoir de décision sur notre propre système de sécurité, la technologie est déployée via le cloud, le personnel OpenAI contrôlé par la sécurité participe tout au long du processus et nous avons des clauses de protection contractuelles strictes.
L’année dernière, le Pentagone a signé des accords individuels d’une valeur maximale de 200 millions de dollars avec de grands laboratoires d’intelligence artificielle tels qu’Anthropic, OpenAI et Google. Le Pentagone souhaite conserver une flexibilité totale en matière de défense, sans être gêné par les avertissements des développeurs de technologies selon lesquels une intelligence artificielle peu fiable ne devrait pas être utilisée dans les armes.
OpenAI a averti que si le gouvernement américain ne respectait pas les termes du contrat, cela pourrait entraîner la résiliation de l'accord, mais a ajouté : "Nous ne nous attendons pas à ce que cela se produise".
La société a également déclaré que son rival Anthropic ne devrait pas être qualifié de « risque pour la chaîne d'approvisionnement », notant : « Nous avons clairement fait connaître notre position au gouvernement ».