Résumé :
Selon les rapports publiés par 404 Media, un projet appelé Project Lily est en cours au sein d'OpenAI : OpenAI engage des centaines de réviseurs de mots d'invite externalisés pour lire manuellement les conversations entre les utilisateurs réels et ChatGPT afin d'améliorer la qualité des réponses.
Il existe un filtre de confidentialité mais il n'est pas assez complet :
Dans des circonstances normales, le réviseur du mot d'invite ne peut pas voir le nom d'utilisateur et la conversation sera d'abord filtrée via le filtre de confidentialité pour supprimer les informations personnelles. Cependant, OpenAI admet également que le mécanisme de filtrage peut manquer des informations personnelles et que les conversations courtes sont particulièrement sujettes à des problèmes.
L'interface de révision est généralement également accompagnée d'un résumé de la mémoire utilisateur. Le résumé de la mémoire résumera les questions, intérêts et situations passés de l'utilisateur, etc. Parfois, il peut même déduire l'emplacement de l'utilisateur grâce à la mémoire. Les auditeurs voient souvent l’intégralité de la conversation dans son contexte.
L'examinateur note principalement les réponses :
Le travail a été décrit comme mécanique et répétitif, et le salaire horaire était supérieur à 50 $. La tâche principale de l’examinateur est de noter les réponses plutôt que de vérifier les faits. Par exemple, l'examinateur doit juger si la réponse donnée par le modèle est pertinente, si elle a une saveur évidente d'IA, s'il y a un comportement de prêche, s'il y a un abus d'expression, s'il y a un comportement de flatterie et si le modèle écrira le modèle en tant que personne ayant une expérience de vie.
Quant à savoir si les réponses données par le modèle contiennent des erreurs factuelles, ce n'est pas le travail de l'auditeur. Après tout, les auditeurs ne sont pas des encyclopédies et ne peuvent pas connaître la vérité complète de tous les événements. Il est donc normal que les utilisateurs voient les réponses données par le modèle qui contiennent des erreurs factuelles.
Le modèle amélioré activé par défaut est la clé du partage de données :
Les versions gratuites, Plus et Pro de ChatGPT permettent toutes d'utiliser le chat pour améliorer les produits par défaut. Lorsque cette fonction est activée, le contenu du chat de l'utilisateur sera autorisé à OpenAI pour l'amélioration du produit. Les auditeurs externalisés du Plan Lily pour vérifier le contenu des conversations ne sont qu'une des utilisations des données. Les données seront naturellement utilisées à d’autres fins, comme par exemple continuer à entraîner le modèle.
De nombreux utilisateurs utilisent ChatGPT comme confident temporaire, parlant de famille, de santé et de sujets encore plus privés. Certains critiques ont déclaré que de nombreux utilisateurs ne savent peut-être pas que leurs conversations peuvent être lues par de vraies personnes, alors demandez-vous si cela est effrayant.
Commentaires