Selon une personne proche du dossier et des documents examinés par les médias, un petit nombre d’utilisateurs non autorisés ont eu accès au modèle d’IA Mythos de nouvelle génération d’Anthropic PBC. Anthropic a déclaré que la technologie du modèle est extrêmement puissante et pourrait même être utilisée pour lancer des cyberattaques dangereuses.
Le même jour, Anthropic a annoncé pour la première fois son intention d'ouvrir le modèle Mythos à une poignée d'entreprises à des fins de test, une poignée d'utilisateurs d'un forum privé en ligne ont réussi à accéder à Mythos, ont déclaré les personnes qui ont demandé à ne pas être identifiées par crainte de représailles. Le groupe utilise depuis régulièrement Mythos, mais pas à des fins de cybersécurité, ont indiqué des sources proches du dossier. Des personnes proches du dossier ont également confirmé la déclaration ci-dessus aux médias à travers des captures d'écran et des démonstrations de modèles vivants.
Anthropic a précédemment déclaré que Mythos est capable d'identifier et d'exploiter « les vulnérabilités de tous les principaux systèmes d'exploitation et de tous les principaux navigateurs Web » sur commande de l'utilisateur. Pour cette raison, l'entreprise a veillé à ce que cette technologie ne soit disponible que pour certains fournisseurs de logiciels via un programme appelé « Glasswing Project » pour aider ces entreprises à tester et à renforcer leurs systèmes afin de prévenir les risques potentiels de cyberattaque.
Cet accès non autorisé, qui n'a pas été divulgué auparavant, met en évidence les défis auxquels Anthropic est confronté pour empêcher complètement sa technologie la plus puissante et potentiellement la plus dangereuse de se propager au-delà des partenaires autorisés. L'incident soulève également davantage de questions quant à savoir si d'autres utilisent Mythos sans autorisation et quels sont leurs objectifs.
Des personnes proches du dossier ont déclaré que les utilisateurs ont accédé à Mythos grâce à diverses tactiques, notamment en tirant parti des privilèges de l'un d'eux en tant qu'employé d'un sous-traitant tiers pour Anthropic et en utilisant des outils de recherche d'informations sur Internet couramment utilisés par les chercheurs en cybersécurité. Ce groupe est actif dans un canal Discord privé, spécialisé dans la collecte d'informations sur des modèles inédits et dans l'utilisation de robots pour collecter des détails pertinents publiés par Anthropic et d'autres organisations sur des sites Web non protégés tels que GitHub.
Un porte-parole d'Anthropic a déclaré dans un communiqué : "Nous enquêtons sur des informations selon lesquelles quelqu'un aurait obtenu un accès non autorisé à une version préliminaire de Claude Mythos via l'environnement de l'un de nos fournisseurs tiers." La société a ajouté qu'il n'existe actuellement aucune preuve que l'accès mentionné dans le rapport Bloomberg s'étende au-delà de l'environnement des fournisseurs tiers ou ait un impact sur les propres systèmes d'Anthropic.
