Selon les informations du 11 avril, tôt le matin du 10 avril, heure locale, le manoir de San Francisco du PDG d'OpenAI, Sam Altman, a été soudainement attaqué. Un homme de 20 ans a lancé un cocktail Molotov sur sa maison. Heureusement, il a heurté la porte extérieure et a rebondi, sans faire de victimes. Le suspect a ensuite été arrêté devant le siège d’OpenAI.

Confronté à une violence extrême contre des individus, Ultraman s'est réveillé tard dans la nuit et a rédigé une longue réponse. Non seulement il a rarement publié des photos de famille pour « dissuader » d’éventuels agresseurs, mais il en a aussi profité pour publier une réflexion approfondie. Dans l'article, il a fait face à la panique et à l'anxiété du public à l'égard de l'IA, a avoué ses problèmes et ses coûts depuis qu'il a pris la direction de l'entreprise, et a fait une analyse extrêmement pointue du jeu fou actuel dans le cercle technologique pour le "AGI Ring".

Ce qui suit est une compilation du texte intégral du long article d'Ultraman :

C'est une photo de ma famille. Pour moi, ils l’emportent sur tout dans le monde.

Je connais le pouvoir des images. Normalement, nous protégeons farouchement la vie privée de nos familles, mais j'ai choisi de publier cette photo dans l'espoir que la prochaine personne qui tentera de lancer un cocktail Molotov sur ma résidence pourra s'en empêcher après l'avoir vue, peu importe ce que le monde extérieur pense de moi.

La première attaque a eu lieu à 3h45. Heureusement, le cocktail Molotov a touché la maison et a rebondi sans faire de victimes.

Les mots sont également puissants. Il y a quelques jours, un rapport très incendiaire a été rédigé contre moi. Quelqu’un m’a fait remarquer hier qu’à une époque où l’inquiétude du public à l’égard de l’intelligence artificielle est généralisée, des articles comme celui-ci me mettraient en plus grand danger. J'ai d'abord rejeté cela.

Cependant, maintenant que je me réveille au milieu de la nuit en colère, je me rends compte que j'ai sous-estimé le pouvoir des mots et du récit. C’est peut-être le bon moment pour répondre.

Tout d’abord, permettez-moi de réaffirmer mes convictions fondamentales :

Il est de ma responsabilité éthique de promouvoir une prospérité partagée, d’autonomiser les individus et de faire progresser la science et la technologie.

L’IA deviendra l’outil le plus puissant de l’histoire de l’humanité, utilisé pour développer les capacités et le potentiel humains. Le besoin de l'humanité pour cet outil est essentiellement illimité et il est utilisé pour créer des réalisations étonnantes. Le monde mérite d’abondantes ressources en matière d’IA, et nous devons trouver les moyens de concrétiser cette vision.

Ce processus est voué à être plein de rebondissements. La peur et l’anxiété à l’égard de l’IA sont légitimes ; nous vivons le changement social le plus important depuis longtemps, peut-être dans l’histoire de l’humanité. Nous devons nous assurer que nos efforts en matière de sécurité sont infaillibles. Cela va bien au-delà de l’alignement du modèle : tous les secteurs de la société doivent collaborer de toute urgence pour faire face aux menaces émergentes. Cela implique de formuler de nouvelles politiques pour aider la société à naviguer en douceur dans la transition économique et à avancer vers un avenir meilleur.

L’IA doit être démocratisée et le pouvoir ne doit pas être trop concentré. Le contrôle de l’avenir devrait appartenir à l’humanité toute entière et à ses institutions représentatives. L’IA doit non seulement responsabiliser les individus, mais les décisions concernant l’avenir et ses nouvelles règles doivent également être prises conjointement par la société dans son ensemble. Il est extrêmement inapproprié de confier à quelques laboratoires d’IA un pouvoir décisionnel majeur qui détermine la forme future de l’humanité.

L’adaptabilité est cruciale. Nous apprenons tous rapidement de nouvelles choses ; certaines de nos croyances existantes seront confirmées et d’autres réfutées. À mesure que la technologie et la société évoluent, nous devons parfois ajuster rapidement notre position. Personne ne peut encore pleinement comprendre l’impact profond de la superintelligence, mais les changements qu’elle apportera seront certainement perturbateurs.

Deuxièmement, partagez quelques réflexions personnelles :

En repensant aux dix années écoulées depuis la création d’OpenAI, j’ai réalisé de nombreuses réalisations dont je suis fier, mais j’ai également commis de nombreuses erreurs.

Mention d’un procès à venir avec Elon Musk. Je me souviens du moment où je suis resté fidèle à mes objectifs : j’ai résolument rejeté sa tentative de contrôler unilatéralement OpenAI. J'en suis très fier. C'est à cette époque que nous avons trouvé un moyen de sortir des fissures, ce qui a non seulement assuré la survie d'OpenAI, mais a également permis de réaliser les avancées d'aujourd'hui.

Cependant, je ne suis pas fier de ma personnalité d’évitement des conflits, qui m’a causé une profonde douleur personnellement ainsi qu’à OpenAI. Je ne suis pas non plus fier de ma mauvaise performance dans le conflit avec le précédent conseil d'administration, qui a plongé l'entreprise dans de graves troubles. J'ai commis beaucoup d'autres erreurs tout au long de la trajectoire fulgurante d'OpenAI ; Je ne suis pas parfait lorsqu'il s'agit de me retrouver dans des situations extrêmement complexes, mais j'essaie de m'améliorer d'année en année et de rester fidèle à la mission principale de l'entreprise. Lorsque nous avons rejoint cette entreprise, nous savions que les enjeux de l’IA étaient extrêmement importants, et nous avions également prévu que les différences entre ceux qui me tenaient à cœur et ceux qui avaient de bonnes intentions seraient infiniment amplifiées. Cependant, c'est une tout autre affaire de vivre ces conflits douloureux et d'être souvent obligé d'y jouer un rôle de médiateur, et les coûts sont extrêmement élevés. Je m'excuse auprès de ceux que j'ai blessés et j'espère pouvoir apprendre mes leçons plus rapidement.

Je sais aussi qu’OpenAI est désormais une plate-forme géante, et non la start-up effrénée qu’elle était. Notre modèle opérationnel doit devenir plus prévisible. Les dernières années ont été extrêmement intenses, chaotiques et stressantes.

Mais la plupart du temps, j'en suis profondément fier : nous accomplissons des missions qui semblaient impossibles au début. Malgré toute la pression de ne pas être optimiste, nous avons trouvé la voie à suivre pour créer une IA super puissante, levé des fonds massifs pour construire des infrastructures, appris à créer une entreprise axée sur les produits et obtenu des services robustes et sécurisés dans des scénarios à grande échelle.

De nombreuses entreprises prétendent changer le monde ; nous le faisons réellement.

Enfin, quelques réflexions sur l'industrie :

Mes réflexions personnelles au cours des dernières années, ainsi que ma compréhension des raisons pour lesquelles les « conflits dramatiques shakespeariens » se produisent fréquemment dans l'industrie, se résument à ceci : « Une fois que vous avez entrevu le potentiel de l'AGI, vous ne pouvez plus fermer les yeux. » Il existe en effet un jeu dynamique similaire au « Ring of Power » dans ce domaine, poussant les gens à faire des choses folles. Je ne fais pas référence à AGI lui-même comme à l'anneau, mais à la pensée totalitaire selon laquelle « je suis le seul à avoir un contrôle absolu sur AGI ».

La seule solution que je puisse entrevoir est de s'engager à partager largement cette technologie avec le public, afin que personne ne puisse monopoliser cet « anneau ». Il existe deux manières évidentes d’y parvenir : responsabiliser les individus et garantir que les institutions démocratiques restent aux commandes.

Il est essentiel de veiller à ce que le processus démocratique prévale sur les entreprises. Les lois et les normes évolueront inévitablement et nous devons travailler dans un cadre démocratique, même si le processus peut être compliqué et lent. Notre position est celle d’une voix et d’une partie prenante, et non celle d’un monopole du pouvoir.

Une grande partie des critiques adressées à l’industrie de l’IA proviennent de profondes inquiétudes quant à l’impact significatif de la technologie. Cette préoccupation est tout à fait légitime et nous acceptons les critiques et les débats de bonne foi. Je comprends qu’un sentiment anti-technologie existe et, objectivement parlant, la technologie ne profite pas toujours à tout le monde. Mais dans l’ensemble, je crois fermement que les progrès technologiques façonneront un avenir incroyablement brillant, non seulement pour votre famille, mais aussi pour la mienne.

Lorsqu’ils s’engagent dans un débat, tous les partis devraient modérer leur rhétorique et leurs tactiques. Nous devrions essayer de réduire autant que possible « l’explosion », tant métaphoriquement que littéralement, afin qu’un plus grand nombre de familles ne soient pas touchées.