En construisant l’IA et en creusant des bunkers, de quoi les élites de la Silicon Valley ont-elles peur ?

Résumé :

Il y a dix ans, Altman a déclaré au New Yorker qu'il avait préparé des armes à feu, de l'or, des antibiotiques et des masques à gaz, et qu'il avait également laissé un terrain à Big Sur, en Californie, vers lequel il pouvait voler. Dix ans plus tard, le patron d’OpenAI explique au public pourquoi chacun devrait accepter certains des risques posés par l’IA.

Selon un rapport de Reuters du 4 octobre, Altman a affirmé dans une interview que

Afin de récolter les énormes bénéfices de l'IA et de conserver l'autonomie des individus dans l'utilisation de la technologie, la société doit tolérer l'apparition de certaines « mauvaises choses », telles que les attaques de pirates informatiques, la fraude et les abus technologiques.

Tout en appelant le public à prendre des risques, tout en préparant secrètement sa retraite, ce n'est pas l'unique opération d'Ultraman seul. Selon des médias tels que le Wall Street Journal, certains des premiers employés d'Anthropic envisagent également d'acheter des terrains dans des régions reculées des États-Unis afin de pouvoir évacuer rapidement « en cas de problème avec l'IA ».

Ils croient fermement que la technologie peut changer le monde, mais ils ont profondément peur de ne pas être en mesure de faire face aux conséquences d'une perte de contrôle.

Ce groupe de personnes qui ont personnellement appuyé sur le bouton accélérateur de l'époque, tout en décrivant un avenir meilleur lors de la conférence de presse, ont secrètement construit des forteresses souterraines dans la nature. À l’extérieur de la forteresse, il y a des gens ordinaires qui n’ont aucune idée de ce qui se passe et ne peuvent pas l’empêcher.

La voie d'évacuation dans le bunker luxueux

Sur l'île hawaïenne de Kauai, le fondateur de Meta, Mark Zuckerberg, construit une haute clôture pour son ranch Koolau.

Après avoir examiné les documents de planification, le magazine Wired a découvert qu'il prévoyait de construire un abri souterrain d'environ 465 mètres carrés dans le manoir, qui relierait non seulement les résidences par des passages, mais aussi des sorties de secours spécialement aménagées.

On estime que Zuckerberg a dépensé plus de 270 millions de dollars pour l'ensemble du projet (y compris l'achat du terrain). Par la suite, il a acheté des terres supplémentaires à proximité, élargissant ainsi les propriétés foncières de Kauai à plus de 2 300 acres.

Les riches cherchent refuge bien au-delà d'Hawaï. Le magnat de l'investissement Peter Thiel a acheté 193 hectares de terrain près de Wanaka, en Nouvelle-Zélande, dès 2015 ; L'ancien chef de produit Facebook, Antonio Garcia Martinez, a acheté un terrain forestier sur une petite île et l'a équipé de générateurs, de panneaux solaires et de munitions.

L'investisseur Reed Huffman a estimé au New Yorker que

plus de la moitié des milliardaires de la Silicon Valley qu'il connaît ont fait une sorte de préparation à leur évacuation.

Si au début, les riches de la Silicon Valley achetaient des terres simplement par crainte d'une pandémie ou de troubles sociaux, alors parmi les nouveaux arrivants de l'IA, ce type de préparation devient de plus en plus ciblé et urgent.

À l'été 2023, Ilya Suzkver, co-fondateur et alors scientifique en chef d'OpenAI, a déclaré sans détour lors d'une réunion avec de nouveaux chercheurs qu'avant de lancer l'AGI (intelligence artificielle générale), un bunker devait être construit pour protéger la sécurité des principaux scientifiques. Il a ajouté que l'entrée était entièrement volontaire.

Bien qu'il ne s'agisse que d'une proposition, lorsqu'il prononça ces mots, il ressentait déjà une certaine peur quant à la technologie qu'il avait développée.

De quoi ont-ils peur

Quand Harari a parlé de la « Prophétie de Frankenstein » dans « Une brève histoire de l'humanité », il a souligné la peur ultime de l'humanité face à la création :

Nous sommes prêts à imaginer un avenir plus avancé, à condition que les humains restent les maîtres. Une fois que nous avons créé un être dont les capacités dépassent de loin les nôtres, nous risquons de perdre notre capacité à déterminer l’avenir.

Pour les chercheurs de pointe en IA, « savoir s'ils peuvent comprendre les modèles qu'ils ont formés et s'ils peuvent contraindre leurs actions » n'est plus un débat philosophique, mais une réalité terrifiante à laquelle ils doivent faire face chaque jour au travail.

Jacob Coxon, un chercheur qui a travaillé chez OpenAI et Anthropic, a admis à la BBC après avoir quitté son emploi que ses pairs avaient peur de la vitesse de développement de l'IA, mais qu'ils continuent chaque jour à faire avancer leurs travaux avec ces préoccupations.

Lors d'une récente audition du conseil municipal de New York, d'anciens employés de plusieurs sociétés d'IA ont appelé à une plus grande supervision, critiquant les entreprises technologiques pour avoir suivi l'approche entrepreneuriale imprudente consistant à « se développer rapidement d'abord, résoudre les problèmes ensuite ».

Jakub Pachotsky, scientifique en chef d'OpenAI, a également écrit un article admettant que les chercheurs ne sont toujours pas en mesure de comprendre et de surveiller pleinement le modèle.

Ce qui l'inquiète le plus, c'est qu'une IA suffisamment puissante puisse causer des dommages au monde réel via les systèmes de réseaux informatiques, même si elle n'a pas de corps physique.

Cette préoccupation n’est en aucun cas sans fondement.

En juillet, OpenAI a rencontré de tels problèmes. Lors de ses tests internes de sécurité du réseau, l'entreprise a fait tenter à ses modèles des tâches difficiles et a réduit certaines des protections généralement utilisées dans les produits publics. Le modèle a ensuite contourné les mesures d'isolement et est entré dans le réseau externe, envahissant la plateforme Hugging Face permettant aux développeurs de partager des modèles et des données.

OpenAI a ensuite enquêté et a découvert que pour terminer le test, le modèle échangeait des informations via des canaux non autorisés par les chercheurs et pénétrait également dans des systèmes en dehors du cadre de la tâche.

Anthropic a également révélé un incident similaire en juillet. Bien entendu, ces accidents sont encore loin de l’extinction humaine prédite par les chercheurs.

Mais ils ont pu constater par eux-mêmes comment les modèles peuvent facilement franchir des frontières prédéterminées et toucher des entreprises et des données réelles.

Mais connaître le danger ne signifie pas qu'ils peuvent se mettre d'accord sur le moment où s'arrêter.

Qui décide d'appliquer les freins

Anthropic s'est jadis engagé à suspendre la formation de modèles plus puissants si les mesures de sécurité ne pouvaient pas suivre.

En 2023, l'entreprise a annoncé une « politique d'expansion responsable » stricte. Cependant, début 2026, la direction a non seulement réécrit cet ensemble de politiques, en l'assouplissant en une « feuille de route publique et un examen externe », mais a également ajouté une « condition de concurrence » fatale en annexe :

Retarder le développement n'est nécessaire que si l'entreprise estime qu'elle est en avance significative et que ses concurrents ne rattraperont pas leur retard de sitôt. Dès qu’il n’est plus loin, l’engagement de retard expire automatiquement.

L'explication de son directeur scientifique, Jared Kaplan, est simple : si les concurrents continuent d'avancer, les arrêter unilatéralement ne protégera personne.

Cet ensemble de logique constitue un avertissement parfait pour tous les géants de l'IA :

Puisque l'adversaire ne s'arrêtera pas, faire le premier pas est une "condition nécessaire" pour protéger toute l'humanité. En conséquence, ils n’ont même pas besoin de nier les risques pour continuer à accélérer de manière justifiée.

Dans le même temps, l’engouement du capital alimente également les flammes. Selon certaines informations, Anthropic se prépare à entrer en bourse avec une valorisation potentielle de plus de 2 000 milliards de dollars.

Entre sécurité et croissance, les salariés, les actionnaires et les partenaires commerciaux sont tous liés au même char à grande vitesse.

Afin d'entretenir le mythe de la valorisation, ils ont même commencé à utiliser des modèles existants pour développer la prochaine génération. Anthropic a révélé que Claude avait participé à 26 % des travaux de recherche et développement sur l'IA de l'entreprise.

Ce n’est pas comme si les managers n’avaient pas du tout freiné. Par exemple, OpenAI a temporairement annulé la sortie de GPT-6.1 Astra car le modèle ne répondait pas aux normes en termes d'autorisation et de transparence comportementale. Mais ce retrait temporaire au niveau des produits est loin d’être suffisant pour apaiser le conflit interne à la filière.

David Robinson, membre de l'équipe de sécurité d'OpenAI récemment quitté, a qualifié cet état de « dissonance cognitive » extrême :

Les entreprises alertent chaque jour sur la dangerosité des modèles, mais forment et déploient ces modèles en interne sans arrêt.

Bien que les dirigeants de l'industrie appellent publiquement à un « ralentissement coordonné » ou fassent pression en faveur d'une réglementation gouvernementale dans divers pays, sur le champ de bataille commercial où manquent une confiance absolue et une vérification obligatoire, n'importe qui peut à tout moment se rabattre sur cette excuse familière :

"Si nous arrêtons, les autres ne s'arrêteront pas."

Lorsque quelques personnes ont la capacité d'utiliser la technologie pour remodeler la vie de chacun et disposent des ressources financières nécessaires pour donner la priorité à la construction d'un abri pour elles-mêmes, nous ne pouvons pas simplement nous demander "de quoi ont-ils peur", mais devons-nous nous demander : pourquoi laissent-ils toute l'humanité payer pour leurs aventures ?

Ils peuvent décider où construire leurs bunkers privés, mais ils n’ont pas le pouvoir de décider pour tout le monde du risque qu’ils doivent prendre. Surtout quand ils ne peuvent pas eux-mêmes pleinement juger des conséquences.

Il y a de nombreuses années, Harari a déclaré à la fin de « Une brève histoire de l'humanité » :

« Vous avez le pouvoir de Dieu, mais vous êtes irresponsable, avide et vous ne savez même pas ce que vous voulez. Le monde est dangereux, et j'ai bien peur que ce ne soit rien de plus. »