Résumé :
L'intelligence artificielle suscite de plus en plus d'attentes, et certains pensent même que la future technologie de l'IA sera suffisamment puissante pour guérir le cancer, de sorte que les risques sanitaires actuels ne méritent plus de s'inquiéter. Shyam Sankar, directeur technologique de la société américaine d'analyse de données Palantir, a récemment affirmé que certains chercheurs en intelligence artificielle avaient commencé à fumer pour exprimer leur ferme confiance dans les futures avancées médicales de l'IA. Cette déclaration a rapidement attiré l'attention et a également fait connaître au public les attentes enthousiastes de la Silicon Valley en matière d'intelligence artificielle, ainsi que les risques que l'optimisme technologique peut entraîner.
Sankar a parlé de l'incident dans une interview sur le programme CBS News "Face the Nation". Il a déclaré que certains chercheurs en IA pensent que l’intelligence artificielle sera éventuellement capable de guérir le cancer et de commencer à fumer pour montrer à leur entourage à quel point ils font confiance à la technologie.
Sankar a relayé les pensées de ces personnes : "Je crois tellement en l'IA et je crois qu'elle peut éventuellement guérir le cancer, donc je suis prêt à y mettre tous mes efforts." Selon lui, fumer est devenu un comportement symbolique, comme pour montrer à ses pairs que leur confiance dans les capacités futures de l’intelligence artificielle a atteint le point de ne plus laisser de place au recul.
Cependant, Sankar n'a pas révélé l'identité spécifique de ces chercheurs, ni fourni de preuves prouvant la fréquence de ce phénomène. On ne sait donc toujours pas s’il s’agit d’une véritable tendance dans un petit cercle de la Silicon Valley ou d’un cas individuel exagéré.
Sankar a fait cette déclaration non pas pour louer les actions de ces chercheurs, mais pour critiquer la croyance presque religieuse de certaines personnes de la Silicon Valley dans l'intelligence artificielle. Il estime que les attentes de certains praticiens de la technologie à l’égard de l’intelligence artificielle générale (AGI) ont dépassé l’optimisme normal à l’égard d’une nouvelle technologie et ont commencé à présenter une sorte de phénomène psychologique social irrationnel.
Dans l'interview, Sankar a cité l'idée du philosophe français Blaise Pascal selon laquelle il existe un « vide en forme de Dieu » dans le cœur humain. Il pense que certaines personnes dans la Silicon Valley ont comblé ce vide spirituel en croyant en l’intelligence artificielle et considèrent la future AGI comme une force capable de résoudre les problèmes humains fondamentaux.
Il a décrit ce phénomène comme le « dieu de la machine ». Selon Sankar, certaines personnes croient non seulement que l’intelligence artificielle peut améliorer considérablement la productivité et la recherche scientifique, mais commencent également à la considérer comme le moyen ultime de résoudre les maladies, le vieillissement et même d’autres problèmes sociaux majeurs. Cette conviction peut les amener à sous-estimer les risques réels et à créer des attentes irréalistes quant à ce que la technologie peut réellement réaliser.
Sankar l'a décrit en outre comme une « folie collective » et une « illusion sociale ». Ses critiques ne se limitent pas aux optimistes de l’IA, mais concernent également certaines personnes extrêmement pessimistes quant aux dangers potentiels de l’intelligence artificielle. Selon lui, qu'il pense que l'AGI résoudra tous les problèmes ou qu'elle conduira inévitablement à des catastrophes, il peut pousser ses jugements sur l'avenir à l'extrême sans preuves suffisantes.
En ce qui concerne le phénomène du tabagisme lui-même, certains rapports ont été publiés ces dernières années selon lesquels certains entrepreneurs, ingénieurs et investisseurs de la Silicon Valley réacceptent ce mode de vie considéré comme malsain par de nombreux acteurs de l'industrie technologique.
Cela contraste fortement avec la culture d'optimisation de la santé qui a prévalu dans la Silicon Valley ces dernières années. Auparavant, certains fondateurs d'entreprises technologiques souhaitaient suivre le sommeil, surveiller les indicateurs sanguins, prendre des bains froids et essayer divers modes de vie et interventions visant à prolonger la durée de vie en bonne santé. De nos jours, certains acteurs du monde technologique commencent à considérer la cigarette comme un outil social et les utilisent même pour créer une image personnelle plus décontractée et moins raffinée.
Pour certaines de ces personnes, fumer peut simplement être une opportunité de créer des liens au bureau ou dans un cadre social. Par rapport à une réunion formelle, fumer dehors ensemble peut faciliter une conversation informelle et parfois aider à nouer des relations. D’autres pensent que fumer les fait moins ressembler à l’entrepreneur technologique typique.
Mais croire que l’intelligence artificielle peut guérir le cancer peut aussi être une raison pour certaines personnes d’accepter de fumer.
Avi Schiffmann, fondateur de Friend, une startup spécialisée dans les appareils portables à intelligence artificielle, a déjà exprimé des opinions similaires. Il a déclaré qu’au moment où les gens développeront un cancer du poumon, les robots IA devraient déjà être capables de guérir la maladie.
Cette réflexion reflète une logique futuriste controversée : si l’intelligence artificielle révolutionne la médecine dans les années ou décennies à venir, alors les conséquences à long terme de certaines actions néfastes actuelles semblent susceptibles d’être compensées par les progrès technologiques futurs.
Cependant, ce raisonnement pose des problèmes évidents. Même si l’intelligence artificielle peut aider les scientifiques à développer des traitements contre le cancer plus efficaces à l’avenir, cela ne signifie pas que les risques sanitaires liés au tabagisme disparaîtront. Le tabagisme n'est pas seulement lié au cancer du poumon, il augmente également le risque de nombreux autres cancers et peut entraîner des maladies cardiovasculaires, des accidents vasculaires cérébraux et des maladies pulmonaires chroniques.
En outre, il faut souvent un long processus de recherche et d'essais cliniques pour découvrir un traitement potentiel, prouver qu'il est sûr et efficace, et enfin être approuvé et largement utilisé. L’IA peut aider les chercheurs à analyser des données, à trouver des médicaments candidats ou à concevoir des expériences, mais ces capacités ne remplacent pas directement la validation médicale.
Même si une technologie d'IA émerge à l'avenir et peut améliorer considérablement les effets du traitement de certains cancers, rien ne garantit que tous les cancers pourront être guéris, et encore moins que le traitement sera accessible à tous à temps lorsqu'ils en auront besoin. Différents cancers présentent d’énormes différences en termes de mécanismes biologiques, de progression de la maladie et de réponses au traitement. Les percées médicales nécessitent généralement une accumulation à long terme, plutôt que d’être réalisées immédiatement par des améliorations de la puissance de calcul.
Plus important encore, les dommages sur la santé causés par le tabagisme ne se limitent pas au cancer. Le tabagisme à long terme augmente le risque de maladie coronarienne, d'accident vasculaire cérébral, de maladie pulmonaire obstructive chronique et d'autres maladies, qui ne seront pas automatiquement résolues par les progrès futurs dans le traitement du cancer.
Par conséquent, il n’existe aucune base scientifique fiable permettant d’utiliser la confiance dans les futures avancées médicales de l’IA comme raison pour ignorer les risques sanitaires actuels.
Le débat autour de l’intelligence artificielle est également de plus en plus polarisé. Certaines personnes pensent que l’IA avancée accélérera considérablement la vitesse de la découverte scientifique et favorisera des percées dans la recherche et le développement de médicaments, le diagnostic des maladies et le traitement personnalisé ; d’autres craignent qu’à mesure que les capacités des systèmes d’IA continuent d’augmenter, les humains pourraient perdre le contrôle de certaines technologies clés et même être confrontés à de graves risques sociaux et sécuritaires.
Cette fracture est particulièrement aiguë dans la Silicon Valley. Certains chercheurs et dirigeants d’entreprises attendent beaucoup de l’AGI, estimant qu’elle pourrait résoudre des problèmes que les humains ont longtemps été incapables de surmonter à l’avenir ; d’autres préviennent que les systèmes d’IA dont les capacités augmentent rapidement peuvent présenter des dangers imprévisibles.
Il est intéressant de noter que ces deux points de vue apparemment opposés conduisent parfois à des logiques comportementales similaires. Si une personne croit fermement que l’IA résoudra rapidement des problèmes tels que le cancer et le vieillissement, elle pensera peut-être qu’il n’y a pas lieu de trop s’inquiéter des risques sanitaires actuels ; Si une autre personne croit que l’IA avancée pourrait éventuellement détruire l’humanité, elle peut aussi penser que la planification sanitaire à long terme a perdu son sens.
L'une ou l'autre façon de penser peut amener les gens à ignorer les choix et les responsabilités qui existent encore dans la vie réelle.
Cependant, le potentiel de l’intelligence artificielle en médecine ne repose pas entièrement sur l’imagination. Les chercheurs explorent déjà l’utilisation de l’IA pour analyser des données biologiques, identifier des cibles médicamenteuses potentielles, concevoir des molécules candidates et accélérer certains processus de recherche. Les candidats médicaments générés par l’IA ont également commencé à entrer dans la phase de vérification expérimentale.
Mais il reste encore un long chemin à parcourir entre la découverte de molécules candidates et le développement de médicaments véritablement efficaces. Les résultats préliminaires en laboratoire ne correspondent pas aux effets du traitement chez l’homme, et les modifications de certains biomarqueurs ne signifient pas nécessairement que les patients vivront plus longtemps ou amélioreront leur santé.
Par conséquent, les attentes raisonnables de la communauté scientifique concernant les applications médicales de l’IA devraient être basées sur des résultats expérimentaux reproductibles, des essais cliniques rigoureux et des évaluations de sécurité fiables, plutôt que de prédéterminer que les technologies futures seront capables d’éliminer les risques actuels.
Les remarques de Sankar révèlent également un problème plus profond auquel est actuellement confronté le secteur de l'intelligence artificielle : lorsqu'on donne trop d'attentes à une technologie au-delà de ses capacités actuelles, les gens peuvent ne plus l'évaluer sur la base de preuves réelles, mais commencer à construire tout un système de croyance autour d'elle.
Dans ce cas, le progrès technologique lui-même peut devenir une excuse pour ignorer les problèmes réels. Les gens ne se demandent plus si un traitement a fait ses preuves, mais croient qu'une solution sera disponible dans le futur. Au lieu de peser sérieusement les risques actuels, les gens croient que les technologies futures suffiront à compenser les choix d’aujourd’hui.
L'intelligence artificielle a le potentiel de transformer la recherche médicale et d'aider les scientifiques à développer des traitements plus efficaces. Cependant, il existe encore une grande incertitude entre cette possibilité et "le cancer sera finalement guéri", sans parler des fondements de la rationalisation du tabagisme.
À l'heure actuelle, il manque encore des preuves indépendantes sur le nombre de chercheurs en IA impliqués dans le phénomène du tabagisme décrit par Sankar. Ce qui est certain, c’est que le débat autour de l’intelligence artificielle ne se limite plus aux performances des modèles, à la valeur commerciale et à la sécurité technique. Il a également commencé à aborder la manière dont les gens perçoivent l’avenir, comment faire face à l’incertitude et si une confiance excessive dans la technologie modifiera les comportements réels.
L'intelligence artificielle pourrait peut-être aider les humains à vaincre davantage de maladies à l'avenir, mais avant que les avancées pertinentes ne soient véritablement vérifiées, s'appuyer sur des promesses médicales non tenues pour supporter des risques sanitaires connus n'est évidemment pas une option scientifiquement fondée.
Commentaires