Microsoft a récemment interdit à ses employés d'utiliser en interne le nouveau grand modèle de niveau Mythos d'Anthropic, Claude Fable 5, en raison de préoccupations concernant les risques de conformité et de confidentialité que sa politique de conservation des données peut entraîner. Selon des personnes proches du dossier, après qu'Anthropic ait mis à jour ses exigences en matière de conservation des données pour Claude Fable 5, l'équipe juridique de Microsoft est intervenue pour évaluer et supprimer temporairement le modèle de la liste de sélection de modèles GitHub Copilot utilisée par les employés de l'entreprise.
Anthropic a officiellement lancé hier son premier modèle de niveau Mythos, Claude Fable. Fable 5 est la version principale de cette version et a été rapidement intégrée aux produits et services destinés aux clients tels que GitHub Copilot et Foundry de Microsoft. Cependant, contrairement au lancement rapide pour les clients externes, les employés internes de Microsoft sont temporairement incapables de choisir Claude Fable 5 dans leur propre environnement GitHub Copilot et ne peuvent toujours accéder qu'aux autres modèles de la série Claude qui continuent de mettre en œuvre la stratégie « Zero Data Retention » (ZDR).
Il est rapporté que l'explication interne de Microsoft aux employés est que l'équipe juridique évalue les dernières exigences d'Anthropic en matière de conservation des données pour les modèles de la série Mythos. Les principales préoccupations se concentrent sur la manière dont les données clients et les informations confidentielles sont stockées et traitées. On ne sait pas exactement quel sera l'examen juridique et si Claude Fable 5 sera rouvert aux employés de Microsoft à l'avenir.
Selon la politique annoncée par Anthropic, le fonctionnement de Claude Fable 5 repose sur un nouveau classificateur de sécurité, qui oblige le serveur à conserver les invites des utilisateurs et à produire du contenu pour l'analyse de sécurité et la détection des violations. Selon les règles en vigueur, ces données seront conservées 30 jours par défaut et supprimées après expiration ; si le contenu concerné est signalé comme violant la politique d'utilisation d'Anthropic, il peut être conservé jusqu'à deux ans à des fins de sécurité et de conformité continues. C'est ce mécanisme de « conservation obligatoire » qui a déclenché une série d'inquiétudes de la part de Microsoft concernant la responsabilité juridique, la vie privée des clients et la protection de la confidentialité de l'entreprise.
Le Claude Fable 5 est la première version publique à grande échelle de la famille de modèles Anthropic Mythos, qui, selon la société, sont "trop dangereux pour une diffusion publique complète" lorsqu'il s'agit de tâches sensibles telles que la cybersécurité. Pour réduire le risque d'abus, Anthropic a introduit des mécanismes plus stricts de protection de la sécurité des mots et d'examen du contenu pour Fable 5, qui ont également contribué techniquement à la conception actuelle de conservation des données, créant une nouvelle tension entre la sécurité du produit et la conformité des données.
Les médias ont demandé des commentaires à Microsoft concernant l'utilisation actuelle de Claude Fable 5 au sein de Microsoft et ses projets ultérieurs, mais Microsoft n'a pas répondu avant la date limite.
Articles connexes :
Anthropic publie Claude Fable 5, version publique de Mythos sans fonctionnalités de cybersécurité