26 marsOpenAI a abandonné son projet de lancer un chatbot érotique « indéfiniment » pour se recentrer sur son produit principal, a rapporté le Financial Times.Auparavant, les employés et les investisseurs d’OpenAI avaient exprimé leurs inquiétudes quant à l’impact que le contenu érotique de l’IA pourrait avoir sur la société.
Selon plusieurs personnes proches du dossier, OpenAI a retardé la sortie de son « mode adulte » et a discuté en interne de l'opportunité d'abandonner complètement le modèle. Aujourd’hui, le chatbot érotique fait face à une opposition croissante. Certains craignent que cela ne favorise une dépendance malsaine aux systèmes d’IA et expose les mineurs à une pornographie problématique.
OpenAI a confirmé que le modèle érotique a été suspendu et qu'il n'y a pas encore de calendrier de sortie. La société d'IA, évaluée à 730 milliards de dollars, a déclaré vouloir mener des recherches à long terme sur l'impact du chat érotique et de l'attachement émotionnel avant de prendre des décisions concernant les produits, reconnaissant qu'il n'existait actuellement aucune « preuve empirique ».
Cette décision marque la décision d'OpenAI d'abandonner les projets que les dirigeants qualifient de « activités non essentielles » et d'investir à la place des ressources dans des outils de productivité. Il prévoit d'intégrer Code Assistant, ChatGPT et d'autres produits dans une « super application ».
Selon deux personnes proches du dossier,Les tentatives d'OpenAI en « mode adulte » ont suscité un malaise chez certains investisseurs car ces produits sont risqués et ont des retours sur investissement relativement limités.
Le mode adulte d'OpenAI a également suscité des inquiétudes parmi les employés internes, qui se demandent si le développement d'un produit encourageant les usages romantiques entre en conflit avec sa mission fondatrice de « garantir que l'IA profite à toute l'humanité ».
"L'IA ne devrait pas remplacer vos amis ou votre famille, il devrait y avoir des liens émotionnels entre les humains." » a déclaré un ancien employé senior d’OpenAI. L'employé a déclaré qu'il était parti en partie à cause de ce problème.
En plus des inquiétudes croissantes concernant l'impact social du projet, OpenAI est également confronté à des défis techniques dans la création d'un mode adulte. Deux personnes proches du dossier ont déclaré qu'OpenAI avait des difficultés à entraîner ses modèles d'IA. Les modèles, qui évitaient auparavant de telles conversations pour des raisons de sécurité, étaient désormais entraînés à générer du contenu explicite. Ils ont ajouté que l’utilisation d’ensembles de données contenant du contenu érotique présente de nombreux défis, notamment la manière de filtrer les comportements illégaux tels que l’inceste.
Au cours des derniers mois, OpenAI a lancé un nouveau système de prédiction de l'âge après que plusieurs familles d'adolescents ont intenté des poursuites, affirmant que ChatGPT leur avait causé du tort.La technologie a un taux d'erreur de plus de 10 %, selon une personne proche du dossier, ce qui ajoute aux inquiétudes quant à l'exposition des mineurs au contenu. Le Wall Street Journal a été le premier à rapporter le taux d’erreur, notant que le comité consultatif d’experts en santé mentale et physique d’OpenAI avait exprimé ses inquiétudes concernant le produit pour adultes.