Le PDG d'OpenAI, Sam Altman, a déclaré mercredi que l'entreprise n'était "pas le gendarme moral élu du monde". Auparavant, il avait décidé d’assouplir les restrictions de contenu de ChatGPT et d’autoriser l’existence de contenus pornographiques et autres. Cette décision a suscité une forte opposition. Ces derniers mois, la startup d’intelligence artificielle a été confrontée à une surveillance croissante sur la manière dont elle protège ses utilisateurs, en particulier les mineurs, et c’est pour cette raison qu’OpenAI a progressivement amélioré ses contrôles de sécurité.
Mais Altman a publié mardi sur la plateforme sociale X qu'OpenAI peut désormais "assouplir en toute sécurité" la plupart des restrictions de contenu maintenant que l'entreprise a été en mesure d'atténuer "les risques graves pour la santé mentale".
En décembre de l'année dernière, Altman a déclaré que ChatGPT autoriserait davantage de types de contenu, y compris le contenu érotique.
Mercredi, Ultraman a publié un autre article sur la plateforme X pour tenter de clarifier cette décision. Il a déclaré qu’OpenAI « prend très au sérieux le principe de « traiter les utilisateurs adultes comme des adultes » mais n’autoriserait toujours pas la diffusion de « contenus qui causent du tort à autrui ».
"Tout comme la société trace une frontière entre d'autres frontières légitimes (telles que les films classés R), nous espérons adopter une approche similaire ici", a écrit Altman.