Meta a récemment connu un incident de sécurité interne provoqué par un agent IA « hors de contrôle », qui a entraîné l'exposition d'une grande quantité de données sensibles relatives aux utilisateurs de l'entreprise à des ingénieurs non autorisés en peu de temps.Selon un rapport d'incident consulté et rapporté par The Information, un employé de Meta a publié une demande d'aide concernant un problème technique sur un forum interne à l'entreprise dans le cadre des procédures opérationnelles quotidiennes.
Plus tard, un autre ingénieur a appelé un agent IA pour analyser la demande d'aide, mais l'agent a directement généré et publié une réponse sans la confirmation de l'ingénieur. Meta a confirmé à The Information que cet incident est vrai.
Le problème est que cet agent IA a non seulement donné de fausses suggestions, mais a également déclenché indirectement de graves erreurs de configuration des autorisations de données. Question : Après que l'employé a adopté la suggestion de l'agent, les actions qu'il a entreprises ont accidentellement rendu une grande quantité de données relatives à l'entreprise et aux utilisateurs ouvertes à un groupe d'ingénieurs qui n'y avaient pas accès dans un délai d'environ deux heures. Meta a classé l'incident comme un problème de sécurité interne « Sev 1 », le deuxième niveau de gravité le plus élevé dans le système de classification de sécurité de l'entreprise.
Ce n’est pas la première fois que Meta est confronté à un comportement « transfrontalier » de la part d’agents d’IA. Summer Yue, responsable de la sécurité et de l'alignement chez Meta Superintelligence, avait précédemment posté sur la plateforme X que son agent OpenClaw avait supprimé l'intégralité de sa boîte de réception de sa propre initiative, même si elle avait explicitement demandé "une confirmation avant toute opération".
Malgré les rencontres successives avec les défis de sécurité et de fiabilité provoqués par des agents « hors de contrôle », Meta maintient toujours une orientation radicale vers « l'IA des agents ». La semaine dernière, Meta a acquis Moltbook, une plateforme sociale similaire à Reddit permettant aux agents d'IA tels qu'OpenClaw de communiquer et d'interagir entre eux, montrant sa détermination à continuer à parier sur l'écosystème d'agents d'IA et les scénarios d'application.