Résumé :
En plus de demander un avis médical, l'alpinisme en plein air est évidemment l'un des domaines dans lesquels les gens « ne devraient jamais croire aveuglément à l'IA ». Récemment, lorsque plusieurs jeunes alpinistes ont escaladé le mont Shasta (Mount Shasta) dans le comté de Siskiyou, en Californie, aux États-Unis, ils ont failli provoquer un désastre en raison de leur dépendance excessive à l'égard du robot de discussion Google AI Gemini. L'IA avait initialement prédit que le voyage ne prendrait que 8 heures, mais à la fin, il leur a fallu deux fois plus de temps pour atteindre le sommet de la montagne, causant de sérieux ennuis à tout le monde.
Les trois grimpeurs impliqués ont déclaré s'être principalement référés à Google Gemini, YouTube et à l'application de randonnée AllTrails pour préparer ce voyage. En plus de s’appuyer sur l’IA pour planifier les itinéraires, ils laissent même le chatbot leur suggérer de la nourriture et de l’eau potable à apporter. Le conseil de Gemini à l’époque était d’emporter des sucres et des glucides simples plutôt que des graisses pendant la montée prévue de huit heures, car les graisses « prennent trop de temps à digérer ». Après avoir écouté ces conseils, les membres de l'équipe n'ont préparé qu'une quantité très limitée d'eau et de provisions qu'ils jugeaient suffisantes pour faire face à cette ascension « relativement courte ».
Le 29 août, les trois alpinistes installent un camp de base près du cours supérieur de Clear Creek. Selon le San Francisco Chronicle (SFGate), le camping est effectivement interdit dans la région. Le lendemain, à 3 heures du matin, tous les trois levèrent officiellement le camp et se mirent à grimper. Cependant, le degré de difficulté réel dépassait de loin l'estimation de l'IA. Ce n'est qu'à 19 heures. C'est le 30 août, après 16 heures de marche ardu, qu'ils atteignirent enfin le sommet. Cette heure avait déjà largement dépassé la ligne de retour recommandée locale de midi.
Après avoir atteint le sommet, la situation a empiré. Le téléphone qu’ils utilisaient pour visualiser les itinéraires de navigation AllTrails était complètement à court de batterie et s’est éteint. À la tombée de la nuit, l’un des membres de l’équipe tâtonnait dans l’obscurité afin d’économiser la puissance des phares. Malheureusement, il est tombé et s'est blessé au genou à une altitude d'environ 11 500 pieds (environ 3 500 mètres). Voyant que la nourriture et l’eau étaient épuisées et qu’il leur manquait les vêtements chauds et l’équipement d’abri nécessaires pour la nuit, les grimpeurs paniqués ont finalement appelé le 911 pour obtenir de l’aide.
En raison des vents violents soufflant dans la zone montagneuse à ce moment-là, l'hélicoptère de sauvetage n'a pas réussi à rappeler ni à se soulever à deux reprises. Ce n'est qu'à 9 h 30 le 31 août que les patrouilleurs forestiers ont finalement contacté et réussi à secourir les trois personnes piégées à pied. Par la suite, ces jeunes effrayés ont admis, interrogés par des patrouilleurs : "Nous nous appuyons trop sur l'intelligence artificielle, mais nous négligeons notre propre esprit critique."
Il n'est pas rare de nos jours de suivre aveuglément les conseils des chatbots IA et d'en subir des conséquences négatives. Auparavant, un agriculteur suivait les conseils du chatbot en matière de désherbage et de lutte antiparasitaire, ce qui provoquait directement la mort de 25 acres de cultures ; quelqu'un souffrait également d'un trouble mental rare du XIXe siècle parce qu'il avait suivi les conseils diététiques de ChatGPT ; et un jeune homme de 19 ans aurait demandé des conseils personnalisés en matière de médicaments à ChatGPT, qui aurait recommandé une combinaison médicamenteuse mortelle, ce qui aurait finalement entraîné la mort du client et déclenché un procès contre OpenAI.
Commentaires