Résumé :
Quelques semaines avant que le département d'intelligence artificielle de SpaceX ne lance Grok Bot, un produit d'agent personnel d'IA, en août, les ingénieurs de Cursor ont découvert une vulnérabilité potentielle. À cette époque, SpaceX acquérait Cursor, une startup de code d'IA, et Grok Bot était développé par Cursor. Au cours du processus de développement, tous les employés de Cursor ont largement utilisé cet outil pour les tests et le travail quotidien.
Fin juillet, des ingénieurs ont fait part de leurs inquiétudes quant au fait que Cursor aurait pu envoyer des données générées par des tests internes, qui peuvent contenir des informations confidentielles sur des clients, des fournisseurs et des partenaires commerciaux, au département d'intelligence artificielle de SpaceX. Selon des communications internes examinées par les médias, un avocat de Cursor a averti qu'une fois que des personnes extérieures apprendraient que l'entreprise utilise les données pour la formation de modèles, cela pourrait déclencher une « grave crise de confiance ».
Cursor a immédiatement lancé une enquête interne pour savoir quelles données sensibles, le cas échéant, avaient été envoyées à l'unité d'intelligence artificielle de SpaceX, désormais connue sous le nom de SpaceX SI, selon des documents internes examinés par les médias et deux personnes proches du projet. La conclusion de cette enquête interne n'est pas claire, mais l'entreprise a pris des mesures pour garantir que la formation ultérieure du modèle n'intègre plus les données générées par l'utilisation des employés.
L'incident met en évidence un défi auquel sont confrontées les sociétés de recherche et de développement en IA, qui est devenu de plus en plus important à mesure que les outils d'agent tels que Grok Bot deviennent plus populaires. Ce type d'agent est conçu pour disposer d'autorisations plus élevées et peut parcourir divers fichiers et applications sur l'ordinateur de l'utilisateur pour effectuer des tâches de manière autonome.
Mais ce haut degré de liberté entraîne de nouveaux risques de sécurité, notamment la fourniture par inadvertance d'informations sensibles au modèle à des fins de formation. En général, les grandes sociétés d'IA ont déclaré qu'elles n'utiliseraient pas les données obtenues à partir d'outils Internet tels que Gmail et Google Cloud Disk pour effectuer la formation de modèles. Par exemple, dans les conditions d'utilisation de Grok Bot, SpaceX SI déclare que l'entreprise n'utilisera pas les données de Google Cloud Disk pour entraîner des modèles, et que les utilisateurs peuvent choisir de refuser de partager leurs propres données à cette fin.
L'enquête sur les données liées à Grok Bot n'est pas le seul incident de sécurité des données rencontré par Cursor. Des communications internes examinées par les médias ont montré que cet été, des employés de l'entreprise ont accidentellement divulgué certaines informations sur des clients via un site Web accessible au public et conçu pour un usage interne.
SpaceX SI n'a pas répondu à une demande de commentaire.
Même avant que SpaceX finalise son acquisition de Cursor pour 60 milliards de dollars à la mi-août, Cursor développait ses activités et ne se limitait plus aux outils de codage. Une fois l’acquisition finalisée, Grok Bot, un assistant de collaboration d’IA tout temps capable de gérer diverses tâches, est devenu le produit principal de SpaceX SI dans la compétition pour le marché lucratif des outils d’IA au niveau de l’entreprise.
Deux personnes proches du dossier ont révélé que, afin d'optimiser la première version de Grok Bot, Cursor avait fait en sorte que l'entreprise, les employés de SpaceX SI ainsi que des personnes et des entreprises externes testent le produit, tout en collectant des enregistrements du comportement des utilisateurs lors de l'utilisation de l'agent. Le curseur peut utiliser ces données pour entraîner le modèle d'IA, permettant au modèle d'apprendre comment l'agent effectue les tâches, y compris les opérations effectuées et les informations récupérées au cours de la tâche.
Romain Ugarte, l'ancien responsable de la croissance chez Cursor, a mentionné dans une interview en podcast qu'aux alentours du mois de juin, les employés internes de Cursor ont été les premiers à utiliser Grok Bot, alors nommé Sand. Le produit est rapidement devenu populaire au sein de l'entreprise, les employés l'utilisant pour gérer les ventes, le recrutement, la recherche et d'autres tâches. Ils autorisaient souvent le logiciel à accéder aux systèmes de l'entreprise, leur permettant ainsi de travailler de manière indépendante. Des personnes proches du dossier ont déclaré que cela signifie que les employés utiliseront l'agent dans des scénarios dans lesquels ils interagissent avec des clients externes et interviewent des candidats potentiels, l'exposant potentiellement à des informations sensibles dans les conversations commerciales, les dossiers clients et les communications de recrutement.
Mais en juillet, peu avant que Cursor ne publie Grok Bot, certains ingénieurs ont mis en garde sur le canal de reporting d'incidents Slack : les données de formation collectées par l'entreprise à partir des scénarios d'utilisation internes de Sand peuvent contenir des informations confidentielles, et ce lot de données peut avoir été transféré vers SpaceX SI.
Dans le cadre de son enquête, Cursor a examiné l'éventail d'utilisateurs inclus dans l'ensemble de données de formation, sur la base de communications internes et de personnes familiarisées avec le sujet. Une personne proche du dossier a déclaré que certains employés de Cursor utilisaient des e-mails personnels pour se connecter à Sand, ce qui rendait difficile pour l'entreprise d'identifier ces utilisateurs et d'éliminer leurs données des formations ultérieures.
À cette fin, Cursor a imposé des restrictions : les employés doivent utiliser la messagerie électronique de l'entreprise pour se connecter à Sand, et a décidé de n'inclure aucune donnée générée par les employés de Cursor dans les futures formations.
L'avocat de Cursor a écrit sur la chaîne Slack de l'entreprise : "D'un point de vue juridique, Sand est un outil général et son ensemble de données contient des informations confidentielles sur les clients, les partenaires, les fournisseurs, etc. À proprement parler, nous n'avons pas l'autorité légale pour utiliser ces données pour la formation de modèles."
Ce n'est pas la première fois que Cursor doit nettoyer les dégâts causés par une mauvaise gestion des données utilisateur.
Les communications internes examinées par les médias ont montré qu'un incident inédit s'est produit plus tôt cette année : le personnel commercial et marketing de Cursor a accidentellement exposé des informations client sur Internet. Le problème résidait dans les sites Web que l'équipe avait créés sur la base de la plateforme de développement de sites Web Vercel, qui étaient utilisés par les équipes commerciales et marketing pour entretenir des relations avec les clients existants et potentiels.
Les documents montrent que l'un des sites Web est utilisé pour gérer l'amarrage des clients avec Verizon. Le site Web contient un organigramme d'une partie de la gestion technique de Verizon, répertoriant plusieurs utilisateurs principaux de l'outil Cursor interne de Verizon, les quantités de produits consommées et l'adresse e-mail de chaque utilisateur.
Les enregistrements de communication interne de Cursor montrent que bien que le site Web lié à Verizon dispose d'un mot de passe, celui-ci, ainsi que toutes les informations client, ont été écrits directement dans le code sous-jacent. Tout internaute consultant le code peut obtenir le mot de passe et les informations client.
Les communications internes montrent également que l'entreprise a rencontré des problèmes similaires avec les données d'autres sociétés telles que Bosch et Coupa. Après avoir découvert la vulnérabilité, les ingénieurs de Cursor ont mis hors ligne de toute urgence le site Web concerné. Ils ont même donné un long nom à la chaîne Slack dédiée à la discussion de ce problème sans fin : « Un grand nombre de sites Web GTM ont divulgué des données clients/internes » (GTM signifie Go to Market).
Bosch a transmis les demandes de renseignements à Cursor, Coupa a refusé de commenter, Verizon n'a pas répondu aux demandes d'entretien et Vercel a refusé de commenter.
Bien avant la fusion de Cursor avec SpaceX SI, le département IA de l'entreprise aérospatiale avait rencontré des incidents de sécurité des données similaires. En mars 2025, un employé de SpaceX SI a téléchargé par erreur un script de test dans le référentiel de code public GitHub, divulguant ainsi la clé d'interface du programme d'application Grok. Les étrangers peuvent utiliser la clé pour accéder au modèle xAI qui n’a pas été rendu public.
Cet été, un chercheur a découvert que l'outil de développement Grok Build de SpaceX téléchargeait le référentiel complet du code Git sur Google Cloud Storage de SpaceX, ce qui pourrait entraîner une fuite de code source propriétaire ou d'identifiants d'identité que les développeurs n'avaient pas l'intention de rendre publics. En réponse, xAI a fermé la fonction de téléchargement d’entrepôt et a rendu l’outil open source. Elon Musk a posté sur la plateforme X : "Toutes les données utilisateur précédemment téléchargées sur SpaceX AI seront complètement et complètement supprimées."
Commentaires