Résumé :
Une femme de 30 ans du comté de Lee, en Floride, aux États-Unis, a été arrêtée parce qu'elle était soupçonnée de menaces de violence par SMS. Carly Michelle Heller, résidente de Bonita Springs, a écrit une menace de tir contre le bureau du shérif du comté de Lee lors d'une conversation sur Claude, un chatbot appartenant à Anthropic, a indiqué la police. Le système de sécurité d'Anthropic signale le contenu pertinent, qui est examiné manuellement et notifié aux forces de l'ordre. Heller a déclaré aux enquêteurs qu'elle avait utilisé Claude comme "journal".
Selon le rapport d'arrestation cité par les médias locaux, Heller a écrit lors d'une conversation tôt le matin du 26 septembre qu'elle « se rendait immédiatement au bureau du shérif pour tirer sur quelqu'un ». Tôt le matin du lendemain, elle a également déclaré qu'elle avait reçu une nouvelle arme ce jour-là et a écrit : "C'est la dernière chance, j'en ai assez." Après avoir reçu le rapport, la police a dépêché des agents à sa résidence de Dean Street à Bonita Springs, où elle a été arrêtée sans incident et a ensuite fait l'objet d'une enquête menée par l'unité de renseignement du bureau du shérif du comté de Lee. Elle fait actuellement face à un chef d'accusation de menaces écrites de violence et n'a pas encore été reconnue coupable.
La loi de Floride prévoit que menacer de tuer, de causer des blessures corporelles, de commettre une fusillade de masse ou un acte de terreur dans un enregistrement écrit ou électronique pouvant être consulté par d'autres peut constituer un crime au deuxième degré. Cependant, la question de savoir si le dialogue dans cette affaire remplit les conditions applicables de la loi et si le procureur peut prouver la constitution d'un crime reste à déterminer par les procédures judiciaires. Les analystes juridiques locaux ont souligné que les procureurs peuvent interpréter le texte concerné comme une menace directe, mais que l'affaire n'est pas sans controverse et implique également les limites de la liberté d'expression.
La politique officielle d'Anthropic stipule que si l'entreprise estime qu'il existe une situation d'urgence pouvant entraîner des blessures corporelles ou la mort imminentes et que la fourniture d'informations en temps opportun peut éviter le danger, elle peut divulguer les informations des utilisateurs au gouvernement sans la procédure légale habituelle. La société a également déclaré publiquement qu'après la mise en ligne de Claude, elle utiliserait un système de détection automatique et un examen manuel pour découvrir le contenu préjudiciable et appliquer les politiques d'utilisation. Dans cet incident, le processus de signalement à la police était que le système marquait d'abord l'incident, puis l'examinait manuellement, puis contactait les forces de l'ordre.
Cette affaire a une fois de plus soulevé des inquiétudes quant aux limites de la confidentialité dans les chatbots. Le fait que les utilisateurs traitent la fenêtre de discussion comme un journal privé ne signifie pas que le contenu ne sera vu que par l'utilisateur ; la plateforme peut examiner la conversation conformément aux politiques de sécurité et peut également fournir des informations aux forces de l'ordre en cas d'urgence. Des rapports récents sur l'éditeur d'images Copilot de Microsoft ont également souligné que les réviseurs humains peuvent voir les mots d'invite de l'utilisateur, les photos téléchargées et les résultats générés, mais que l'examen correspondant est principalement utilisé pour évaluer la qualité du résultat.
TechSpot a également mentionné qu'OpenAI et son PDG Sam Altman sont poursuivis en justice pour une fusillade de masse en Colombie-Britannique, au Canada. Le procès alléguait que l'entreprise aurait pu prendre des mesures pour empêcher l'incident ; l'État de Floride avait également déjà poursuivi OpenAI et Altman pour des blessures liées à la fusillade de l'Université d'État de Floride en 2025. Aucune de ces poursuites n'équivaut à une décision judiciaire de responsabilité, ce qui met en évidence les controverses juridiques auxquelles les sociétés d'IA sont confrontées en termes de sécurité des utilisateurs, de confidentialité et de prévention des dommages réels.
Commentaires