Anthropic a récemment accusé publiquement les sociétés chinoises d'IA DeepSeek, MiniMax et Moonshot d'abuser massivement de son grand modèle Claude pour améliorer les capacités de leurs produits, définissant ce comportement comme un « abus à l'échelle industrielle ». L'activité impliquait environ 24 000 faux comptes et plus de 16 millions d'interactions avec Claude, a indiqué la société dans un communiqué lundi, à la suite d'un rapport du Wall Street Journal.
Selon certaines informations, ces sociétés sont accusées d'utiliser la technologie dite de « distillation » pour extraire les capacités de modèles plus avancés comme Claude afin de former des modèles plus petits. Anthropic a admis dans sa description que la distillation modèle elle-même est une « méthode de formation légitime », mais a également souligné que cette méthode « peut également être utilisée à des fins inappropriées », comme l'obtention de capacités puissantes auprès d'autres laboratoires à un coût bien inférieur au temps et au coût en capital d'une recherche et d'un développement indépendants.
Anthropic prévient spécifiquement que les modèles obtenus par distillation illégale de cette manière n'hériteront probablement pas des mécanismes de protection et de restriction de sécurité du modèle original. "Les laboratoires étrangers distillant des modèles américains peuvent contourner ces contraintes de sécurité et introduire des capacités non protégées directement dans les systèmes militaires, de renseignement et de surveillance, permettant ainsi aux gouvernements autoritaires d'utiliser l'IA de pointe pour des cyberopérations offensives, la prolifération de la désinformation et la surveillance de masse", a noté la société.
Dans cet incident, DeepSeek est celui qui a attiré le plus d'attention - cette société a provoqué un choc dans l'industrie mondiale de l'IA avec ses modèles plus efficaces et plus puissants sur le plan informatique. Anthropic a déclaré qu'il y avait eu plus de 150 000 interactions entre DeepSeek et Claude, avec un accent particulier sur les capacités de raisonnement de Claude. En outre, DeepSeek est également accusé d'avoir utilisé Claude pour générer des « expressions alternatives favorables à la censure » afin de répondre à des questions politiquement sensibles impliquant des dissidents, des chefs de parti ou l'autoritarisme pour contourner le filtrage du système de censure du pays.
Les doutes sur DeepSeek ne viennent pas seulement d’Anthropic. Il y a à peine une semaine, dans une lettre adressée aux législateurs américains, OpenAI accusait également DeepSeek d'utiliser des méthodes de distillation similaires pour « profiter » des capacités du modèle développé par OpenAI et d'autres sociétés américaines depuis longtemps afin de rechercher un avantage concurrentiel. La lettre positionne également DeepSeek comme une menace pour l’écosystème américain de l’IA et son leadership technologique.
À l'heure actuelle, Anthropic n'a pas divulgué en détail les mesures juridiques ou réglementaires ultérieures dans une déclaration publique, mais en élevant la question au niveau de la sécurité nationale et de la gouvernance mondiale de l'IA, la société espère clairement pousser les régulateurs et les décideurs politiques à faire face au risque d'abus de « distillation de modèles ». À une époque où la concurrence mondiale en matière d’IA devient de plus en plus féroce et où les flux technologiques transfrontaliers sont très sensibles, cette accusation a encore exacerbé les tensions entourant le jeu de concurrence et de sécurité entre la Chine et les États-Unis dans le domaine de la technologie de l’IA.