Responsable des affaires internationales d’Anthropic : le modèle open source est plus risqué

Résumé :

Le 14 octobre, selon Bloomberg, le principal responsable commercial d'Anthropic, responsable des marchés en dehors des États-Unis, a déclaré que par rapport aux modèles d'IA de l'entreprise, les modèles ouverts présentent des « risques plus élevés » en termes d'incidents de cybersécurité ou d'autres dangers.

Princes

Guillaume Princen, responsable des activités internationales d'Anthropic, a déclaré mercredi à Bloomberg TV lors du Sommet international sur l'IA à Dublin : "Nous devons être très prudents avec les modèles open source en matière de sécurité. Je ne peux pas parler en faveur des modèles ouverts, mais par définition, ils présentent un risque plus élevé."

Anthropic est sur le point d'être introduite en bourse, mais l'entreprise est confrontée à une concurrence croissante dans certains pays. Ces pays sont de plus en plus préoccupés par leur dépendance à l’égard de la technologie américaine d’IA. Actuellement, une alternative populaire aux modèles fermés sont les modèles d'IA ouverts, qui exposent leurs paramètres et permettent aux utilisateurs de les modifier et de les exécuter sur leur propre matériel.

Les partisans affirment que ces modèles sont moins chers et plus propices à la sauvegarde de la souveraineté nationale que les modèles étroitement contrôlés et à source fermée proposés par Anthropic et OpenAI. La société française d’IA Mistral AI a récemment publié un modèle de pondération ouvert qui offre à l’Europe une alternative au modèle souverain. Dans le même temps, une série de modèles ouverts similaires lancés par des entreprises chinoises attirent de plus en plus l'attention sur les marchés étrangers.

Anthropic a multiplié ses avertissements concernant les capacités de l'IA.

Prinsen supervise également les ventes d'Anthropic aux startups et aux entreprises « digitalement natives ». Il a déclaré que ses inquiétudes concernant le modèle de poids ouvert provenaient des propres efforts d'Anthropic pour assurer la sécurité de ses produits. À la suite d'un certain nombre de piratages d'IA très médiatisés, Anthropic a déclaré avoir ajouté des mesures de sécurité supplémentaires pour empêcher que ses modèles ne soient utilisés à des fins malveillantes. L’entreprise a toujours préconisé de ralentir le rythme de développement de l’IA jusqu’à ce que des normes internationales soient établies et qu’un mécanisme d’évaluation unifié soit mis en place.

En ce qui concerne les modèles les plus chers d'Anthropic, Princen a déclaré qu'il dirait aux entreprises que l'achat de modèles plus puissants finirait par s'avérer payant. "Invesissez toujours dans une technologie de pointe, car dans six mois, dans un an ou dans deux ans, le coût d'utilisation de ce type d'applications diminuera également", a-t-il déclaré.

Il a déclaré que le dernier modèle Claude de la société, l'Opus 5.5, est 40 % moins cher que la version précédente. Il a ajouté que les entreprises clientes qui achètent les modèles « de pointe » d'Anthropic représentent une « très grande partie » des activités de l'entreprise, sans divulguer de chiffres précis.

Prinsen a refusé de commenter les projets d'introduction en bourse d'Anthropic ou de dire combien d'argent l'entreprise a investi dans la formation de nouveaux modèles.