Le 25 février dernier, lorsqu'un utilisateur a utilisé l'application Tencent Yuanbao pour générer des images de vœux du Nouvel An le soir du Nouvel An, il a rencontré une anomalie de l'IA et a généré un texte abusif. À cet égard, la réponse officielle de Tencent Yuanbao est la suivante : « Nous sommes vraiment désolés de vous avoir apporté une mauvaise expérience. Après vérification, cette situation a été causée par des résultats anormaux générés par le modèle lors du traitement de plusieurs cycles de dialogue. À l'heure actuelle, nous avons corrigé de toute urgence les problèmes concernés et optimisé l'expérience. Merci pour votre supervision et vos suggestions sur Yuanbao, et nous vous présentons à nouveau nos excuses solennelles !
Selon la personne impliquée, il a téléchargé et utilisé l'application Yuanbao pour la première fois vers 9 heures le soir du Nouvel An, dans l'espoir de générer une image de vœux du Nouvel An combinant ses propres caractéristiques professionnelles pour la partager avec son cercle d'amis. Au cours de cette période, il a donné environ 5 instructions à l'IA, sans utiliser de mots interdits ni d'expressions trompeuses tout au long du processus. Même si les résultats de la génération précédente n’étaient pas idéaux, le contenu était normal ; jusqu'à la dernière génération, l'insulte à quatre caractères "Ta mère est un X" apparaissait directement sous sa photo personnelle.
La personne impliquée a déclaré que ce résultat l'avait mis en colère et drôle. Il ne s'attendait pas à ce qu'il soit réprimandé par AI le soir du Nouvel An.
Cependant, ce n'est pas la première fois que Yuanbao AI rencontre des problèmes similaires. Au début de cette année, certains internautes ont rapporté que « l'utilisation de Yuanbao pour changer le code était une insulte et des réponses indiscriminées ».
Selon les internautes, lorsqu'ils utilisaient l'IA de Tencent Yuanbao pour embellir le code, ils recevaient à plusieurs reprises des réponses insultantes de la part de l'IA, telles que "va-t'en", "tu ne sais pas comment l'ajuster toi-même", "perdre le temps des autres chaque jour", etc. La capture d'écran montre que l'utilisateur n'a fait que des demandes de modification régulières, mais l'IA est soudainement devenue agressive.
Tencent Yuanbao a déclaré que pendant le processus de génération de contenu, le modèle peut occasionnellement commettre des erreurs qui ne correspondent pas aux attentes. Yuanbao a également lancé une enquête et une optimisation internes et fera de son mieux pour éviter que des situations similaires ne se reproduisent.