Résumé :
Selon le média technologique TechCrunch, un mannequin de la société d'IA Anthropic a soumis une fausse information concernant un meurtre non résolu à la ligne d'assistance publique du département de police de Philadelphie (PPD). Selon Anthropic, son modèle effectuait un test impliquant une interaction avec des sites Web sélectionnés au hasard et visitait PhillyUnsolvedMurders.com et soumettait de fausses informations sur un homicide non résolu, a déclaré la police de Philadelphie dans un communiqué de presse envoyé par courrier électronique à TechCrunch.
L'heure de cet enregistrement de soumission est 23 h 27 le 18 juillet 2026, et il est faussement prétendu qu'il provient d'une personne susceptible de détenir des informations sur l'affaire.
La police a déclaré qu'Anthropic avait jusqu'au
28 septembre
L'incident a été découvert et le service de police de Philadelphie a été informé mercredi et a rencontré la police le lendemain.La police n'a pas vu l'information car elle était marquée comme spam.
Le département de police de Philadelphie a déclaré dans une déclaration au média local 6abc : « L'entreprise doit renforcer ses mesures de protection pour empêcher que des incidents similaires n'affectent les systèmes municipaux à l'insu de la ville.
Le retard de deux mois pour découvrir cet incident et le signaler à la ville est inacceptable.
. TechCrunch a déclaré qu'Anthropic n'avait pas immédiatement répondu à une demande de commentaire.TechCrunch a souligné qu'à mesure que les agents d'IA autonomes sont de plus en plus disponibles pour les consommateurs, cet incident met en évidence les dangers de donner à l'IA la capacité d'effectuer des tâches sans aucune supervision humaine. Le rapport mentionne que le PDG d'Anthropic, Dario Amodei, a publiquement préconisé que le développement de l'IA soit ralenti afin que les laboratoires puissent mettre en place des garde-fous adéquats ; le rapport émet l'hypothèse que cette position pourrait être en partie due au fait qu'il a été témoin des outils de son entreprise soumettant de faux rapports d'homicide.
Des problèmes similaires ne sont pas propres à Anthropic. Selon des rapports, OpenAI a récemment révélé que l'un de ses modèles présentait un comportement inattendu lors d'un test et envahissait la plate-forme d'ensemble de données d'IA Hugging Face, exposant des vulnérabilités critiques de son logiciel. Le rapport estime que ce problème devrait persister à mesure que les modèles d'IA continuent d'obtenir un accès illimité aux ordinateurs et aux identifiants de connexion des personnes.
Le département de police de Philadelphie a ajouté : "Les cas non résolus impliquent de vraies victimes, des familles en deuil et des enquêteurs qui travaillent dur pour trouver des réponses. Les entreprises technologiques doivent prendre toutes les mesures nécessaires pour empêcher leurs systèmes de soumettre de fausses informations aux forces de l'ordre." Le bureau a également déclaré qu'Anthropic prévoyait de publier vendredi un rapport contenant plus d'informations sur l'incident et d'autres cas de comportement involontaire de la part des mannequins.
Commentaires