Résumé :
Le 15 septembre, selon la rubrique « Xiaoxin Storytelling » du Centre des médias d'information de Jiaxing dans la province du Zhejiang : Le 17 avril de cette année, la mère de M. Shi est décédée. Sa famille discutait du moment où l'enterrer. Il a pensé au logiciel d'intelligence artificielle "Doubao", et le logiciel lui a recommandé le 19 avril.
Une fois que tout a été arrangé, M. Shi a demandé à nouveau à « Doubao » de confirmer que le 19 n'était pas un jour approprié, mais qu'il serait très difficile de le changer. Pour cette raison, M. Shi était très en colère et a poursuivi en justice la société de logiciels qui a fabriqué le « Doubao ».
Selon certaines informations, la ville natale de M. Shi est Shuyang, dans la province du Jiangsu, et il vit actuellement à Jiashan. Le 17 avril de cette année, la mère de M. Shi est décédée d'une maladie soudaine. La famille de M. Shi compte cinq frères et sœurs. Les membres de la famille ont discuté ensemble des funérailles de sa mère. La priorité absolue était de déterminer une date d'enterrement.
M. Shi a déclaré aux journalistes : "Je fais davantage confiance à Doubao. Je compte sur lui tout le temps et je pense qu'il sait tout. Ensuite, j'ai demandé à Doubao quand il serait enterré. Doubao a répondu le 19 avril. Je pense que cela a du sens, alors j'y crois."
L'enregistrement des questions et réponses du logiciel montre qu'après que M. Shi a posé la question à ce moment-là, "Doubao" a répondu que la recommandation la plus fiable était le 19 avril.
Après un moment, M. Shi a demandé à nouveau : « Quelle heure convient pour l'enterrement ? "Doubao" a répondu entre 7h et 9h, mais cette fois la réponse a été un peu différente de la dernière fois. "Doubao" a mentionné dans sa réponse que le 19 avril n'était pas un jour approprié.
M. Shi fut confus pendant un moment. Il l'a demandé à plusieurs reprises, et la réponse donnée par « Doubao » a été que le 19 était inapproprié. A cette époque, parents et amis avaient déjà fait savoir qu'il était trop tard pour changer la date. En fin de compte, M. Shi a dû assister aux funérailles de sa mère.
Peu de temps après les funérailles, un proche à la maison a été impliqué dans un accident de la route et a été grièvement blessé. Ils se sont plaints des arrangements de M. Shi.
M. Shi s'est plaint auprès de la société du logiciel « Doubao » mais n'a reçu aucune réponse, il a donc décidé de poursuivre l'autre partie en justice. « Doubao » a également aidé M. Shi à rédiger une plainte, indiquant qu'il pouvait intenter une action en justice et a donné les mesures nécessaires pour engager des poursuites.
Le contrat d'utilisation du logiciel « Doubao » indique que le contenu généré par le logiciel et les services « Doubao » est uniquement à titre de référence et ne constitue pas un conseil professionnel. Pour les situations ayant un impact significatif, il est recommandé de consulter les professionnels concernés et ne doit pas servir de base à une action ou à une inaction. Les conséquences et les responsabilités de tout jugement porté sur la base du contenu de sortie ou des opérations ultérieures associées basées sur celui-ci seront supportées par l'utilisateur.
Le journaliste a appris que le tribunal populaire du canton de Jiashan avait ouvert une audience sur cette affaire.
L'avocat estime qu'il sera difficile pour M. Shi de défendre ses droits par le biais de poursuites. Si M. Shi souhaite intenter une action en justice pour la protection de ses droits, il doit prouver que le fournisseur de services qui a fourni le logiciel d'IA a commis un acte illicite. Tout d’abord, l’autre partie doit être en faute. En outre, il doit exister un lien de causalité entre la faute de l'autre partie et le préjudice réel subi par M. Shi. C'est très difficile à prouver. Si l’IA fournit simplement une mauvaise réponse, cela ne suffit évidemment pas.
Les informations sur "l'IA trompe les gens" sont courantes. Le 18 juin, Zhang, 52 ans, de Changsha, s'est soudainement senti étourdi chez lui. Il allumait habituellement son téléphone portable et utilisait l’IA pour rechercher des symptômes et des méthodes de traitement associés. Trois jours plus tard, l’état ne s’est pas amélioré mais s’est aggravé. Les membres de la famille ont rapidement envoyé le patient voir un médecin et la situation s'est inversée. Les médecins préviennent que la consultation en IA repose principalement sur l’analyse des informations saisies par les patients. Il est difficile de juger de la gravité de la maladie sur la base des seules descriptions textuelles et ne peut remplacer une consultation en face-à-face avec un médecin professionnel.
Ce n'est pas une coïncidence. Le 5 juin, un citoyen de Nanjing a utilisé des sacs de haricots pour prendre des photos afin d'identifier les champignons cueillis dans la communauté, ce qui a failli provoquer une intoxication alimentaire. De plus, Maître Yang, 57 ans, de Ningbo, a été « guidé » par l'IA dans les montagnes profondes et s'est perdu et coincé alors qu'il grimpait le week-end. Il était épuisé et a été secouru par les pompiers après avoir cherché à secourir. Les étudiants aux examens d’entrée à l’université ont utilisé l’IA pour recruter leurs volontaires, mais ont été biaisés par des codes professionnels fabriqués de toutes pièces et par des classements des années précédentes. Les agriculteurs ont demandé à l’IA quels pesticides utiliser, et des centaines d’acres de champs de sésame sont morts du jour au lendemain... Ces cas sont pleins d’absurdités en apparence, mais derrière eux se cache la sérieuse question de savoir comment nous devrions correctement voir et utiliser l’IA.
Plus tôt, la personne concernée en charge du groupe Douyin a répondu que l'IA est encore en phase de développement et que Doubao améliore également constamment la précision de la reconnaissance, impliquant des problèmes majeurs tels que la sécurité personnelle. Il est recommandé d’utiliser les réponses d’IA comme référence et de rechercher des arguments multipartites pour éviter de causer des dommages.
Le journal a commenté : La puissance de l'IA réside dans sa capacité à rechercher d'énormes quantités d'informations fragmentées sur un réseau en très peu de temps et à les rassembler en une réponse qui dit "quelque chose comme ça". Mais la réponse qu’il donne est « le texte qui ressemble le plus à la vérité » plutôt que « la vérité absolue, correcte et fiable ». Il ne peut pas comprendre les sentiers complexes dans une montagne profonde, ne peut pas établir un diagnostic basé sur de simples descriptions et ne connaît pas les précautions à prendre pour traiter les cultures, sans compter qu'il peut faire semblant de comprendre et fabriquer de fausses informations.
Plus la technologie est performante, plus les gens doivent rester éveillés. L'IA peut être utilisée comme un outil d'aide pour rechercher des informations, organiser des idées et dresser des listes, mais elle n'est jamais une panacée, encore moins un « passe-partout » qui peut remplacer la réflexion et la prise de décision des gens.
Surtout lorsqu'il s'agit de questions majeures telles que la sécurité des voyages, la santé physique et les aspirations aux examens d'entrée à l'université, où une erreur peut conduire à un renversement, la confiance dans l'IA ne peut pas être transformée en une dépendance illimitée et inconditionnelle, et nous devons abandonner le bon sens dans la vie et les canaux faisant autorité pour résoudre les problèmes. Les anciens disaient : « Mieux vaut ne pas avoir de livres que croire aux livres. » Aujourd’hui, nous devrions probablement dire : il vaut mieux ne pas avoir d’IA que de croire en l’IA.
Commentaires