Résumé :
Anthropic a déclaré lundi que de nouvelles mesures visant à empêcher les concurrents de copier les capacités de son modèle Claude AI ont réduit la quantité de données volées par ce que l'on appelle les « attaques par distillation » d'environ 90 % à 99 %.
La distillation de modèles est devenue une priorité pour les plus grandes entreprises d'intelligence artificielle ; des entreprises telles qu'Anthropic, OpenAI et Google estiment que cette pratique permet aux concurrents de copier leurs capacités avancées à moindre coût et plus rapidement.
Anthropic a déclaré que les mesures de protection visant à limiter l'accès aux capacités d'inférence de Claude ont considérablement réduit les tentatives d'extraction contre le modèle, et que le « nombre de jetons d'inférence extraits par distillation » est désormais tombé à « 1/100 à 1/10 du niveau précédent ».
La société basée en Californie a déclaré qu'elle avait rendu plus difficile l'exploitation d'un réseau d'agents pour sonder à plusieurs reprises le processus d'inférence protégé de Claude, bloquant les tentatives d'extraction de données et entravant les campagnes de distillation de modèles à grande échelle.
Anthropic affirme que son système de sécurité est "à peu près équivalent à un système qui aurait empêché Claude d'aider à la création d'une arme biologique" et a un "taux de faux positifs inférieur à 0,1 pour cent".
Commentaires