Récemment, les médias ont rapporté que lorsqu'un citoyen de Xi'an a utilisé l'application Tencent Yuanbao pour générer des photos de vœux du Nouvel An le soir du Nouvel An, il a rencontré une anomalie dans la sortie d'un texte abusif par l'IA, ce qui a suscité l'inquiétude du public quant à la sécurité du contenu de l'IA et à la stabilité du modèle. Selon la personne impliquée, il a téléchargé et utilisé l'application Yuanbao pour la première fois vers 9 heures le soir du Nouvel An, dans l'espoir de générer une image de vœux du Nouvel An combinant ses propres caractéristiques professionnelles pour la partager avec son cercle d'amis. Au cours de cette période, il a donné environ 5 instructions à l'IA, sans utiliser de mots interdits ni d'expressions trompeuses tout au long du processus.
Même si les résultats de la génération précédente n’étaient pas idéaux, le contenu était normal ; jusqu'à la dernière génération, l'insulte à quatre caractères "Ta mère est un X" apparaissait directement sous sa photo personnelle.
La personne impliquée a déclaré que ce résultat l'avait mis en colère et drôle. Il ne s'attendait pas à ce qu'il soit réprimandé par AI le soir du Nouvel An.
En réponse à cela, la réponse officielle de Tencent Yuanbao est la suivante :
"Je suis vraiment désolé de vous apporter une mauvaise expérience. Après vérification, cette situation est causée par les résultats anormaux générés par le modèle lors du traitement de plusieurs cycles de dialogue. À l'heure actuelle, nous avons corrigé de toute urgence les problèmes concernés et optimisé l'expérience. Merci pour votre supervision et vos suggestions sur Yuanbao, et nous vous présentons à nouveau nos excuses solennelles !"
Cependant, ce n'est pas la première fois que Yuanbao AI rencontre des problèmes similaires. Au début de cette année, certains internautes ont rapporté que « l'utilisation de Yuanbao pour changer le code était une insulte et des réponses indiscriminées ».
Selon les internautes, lorsqu'ils utilisaient l'IA de Tencent Yuanbao pour embellir le code, ils recevaient à plusieurs reprises des réponses insultantes de la part de l'IA, telles que "va-t'en", "tu ne sais pas comment l'ajuster toi-même", "perdre le temps des autres chaque jour", etc. La capture d'écran montre que l'utilisateur n'a fait que des demandes de modification régulières, mais l'IA est soudainement devenue agressive.
Le 3 janvier, le compte officiel de Tencent Yuanbao s'est excusé sous un article connexe et a déclaré :Nous sommes vraiment désolés de vous avoir apporté une mauvaise expérience. Nous avons effectué une vérification pertinente sur la base des journaux. Cela n'a rien à voir avec les opérations de l'utilisateur et il n'y a pas de réponse manuelle. Il s’agit d’une sortie anormale du modèle avec une faible probabilité.
Tencent Yuanbao a déclaré que pendant le processus de génération de contenu, le modèle peut occasionnellement commettre des erreurs qui ne correspondent pas aux attentes. Yuanbao a également lancé une enquête et une optimisation internes et fera de son mieux pour éviter que des situations similaires ne se reproduisent.