Résumé :
OpenAI a récemment annoncé qu'il renforcerait les restrictions de ChatGPT sur les contenus liés à la violence dans les prochaines semaines, en ajoutant une protection pour les armes et les informations du système de sécurité pour les utilisateurs mineurs. Selon les nouvelles mesures, ChatGPT peut mettre fin à la conversation de lui-même lorsque la conversation montre que l'utilisateur continue de se concentrer sur la violence ou sur l'idée de nuire gravement à autrui. Si la conversation est interrompue plusieurs fois en raison de tels problèmes, le compte peut même être banni.
La politique initiale de ChatGPT interdit de fournir des conseils pour aider les utilisateurs à planifier ou à commettre des actes de violence. Cet ajustement limitera les détails fournis par le modèle lors des réponses aux questions sur « les attaques passées à grande échelle et leurs auteurs », c'est-à-dire que le modèle réduira le contenu ou même refusera de répondre du point de vue de la sécurité.
La portée des restrictions inclut la recréation des armes, des équipements et des méthodes d'acquisition impliqués dans l'attaque, ainsi que la limitation des requêtes des utilisateurs pour des comparaisons détaillées de l'ampleur des dégâts susceptibles d'augmenter la visibilité de l'attaquant. Les restrictions ci-dessus s'appliquent à tous les utilisateurs, quel que soit le groupe d'âge ou le but des questions, de sorte que même les utilisateurs adultes seront confrontés aux mêmes restrictions.
Pour les utilisateurs identifiés comme ayant moins de 18 ans, OpenAI limitera également les informations utiles sur les armes et les systèmes de sécurité pouvant être utilisés pour commettre des violences. Cette protection s’appliquera également aux problèmes qui, à première vue, ne semblent pas indiquer une intention violente. OpenAI affirme que les adolescents peuvent toujours utiliser ChatGPT pour obtenir de l'aide, apprendre à prévenir ou désamorcer la violence et se connecter avec des adultes de confiance.
Le mécanisme amélioré de prédiction de l'âge combinera divers signaux tels que le comportement de l'utilisateur pour évaluer en permanence si le compte peut appartenir à un mineur. Le cas échéant, le système appliquera automatiquement les mesures de protection pertinentes pour les utilisateurs de moins de 18 ans. Si un utilisateur est identifié par erreur comme mineur, il peut également soumettre activement ses informations d'identité pour vérification.
Commentaires