Le 30 mars, un commentaire sur une vidéo transmise sur la plateforme X a explosé. L'utilisateur @malmesburyman a retweeté un extrait d'interview du PDG d'Anthropic, Dario Amodei, avec la légende : Vous pouvez vraiment sentir grâce à ce type pourquoi Truman a trouvé Oppenheimer si dégoûtant.


Dans la vidéo, Amodei répète sa rhétorique familière :

Nos modèles sont déjà très proches du niveau de l’intelligence humaine, mais la société n’est pas suffisamment consciente des risques à venir.


Le commentaire a déclenché une polarisation. Les partisans pensent qu'Amodei prétend être un saint tout en développant une IA puissante, tout comme Oppenheimer a dit « ses mains sont pleines de sang » après avoir construit la bombe atomique ;

Les opposants disent que l’analogie ne tient tout simplement pas. Oppenheimer n'a exprimé sa culpabilité qu'après que la bombe atomique ait tué des centaines de milliers de personnes, tandis qu'Amodei a mis en garde contre les risques avant que la technologie ne provoque un désastre.

Mais la question la plus profonde est la suivante : pourquoi tous les dirigeants qui développent une IA de pointe sont-ils interrogés sur leurs motivations, quelle que soit la manière dont ils le font ?

Le dilemme d’Amodei : s’en tenir aux lignes rouges et devenir une menace pour la chaîne d’approvisionnement ?

Ce n’est pas la première fois qu’Amodei est réprimandé pour avoir mis en garde contre les risques de l’IA.

En février, il a rejeté la clause du Pentagone « toutes utilisations licites », insistant sur les deux lignes rouges d'Anthropic.


En conséquence, le secrétaire à la Défense Pete Hegseth a déclaré Anthropic comme une « menace à la sécurité de la chaîne d'approvisionnement » et Trump a ordonné à toutes les agences fédérales de désactiver Claude dans un délai de 6 mois.

Cette étiquette, habituellement utilisée contre des adversaires étrangers, n’a jamais été appliquée à une entreprise américaine.

Amodei a déclaré sans ambages dans une note interne divulguée que la véritable raison pour laquelle le Pentagone et l’administration Trump n’aiment pas Anthropic est la suivante :

Nous n’avons pas fait de don à Trump, nous n’avons pas fait d’éloges dictatoriaux à Trump, nous avons soutenu la réglementation de l’IA (ce qui va à l’encontre de leur programme), nous avons parlé honnêtement des questions de politique en matière d’IA (comme le remplacement des emplois), et nous nous sommes en fait tenus aux lignes rouges au lieu de collusion avec eux pour mettre en scène un « drame de sécurité ».

Une semaine plus tard, Amodei s'est excusé pour le ton de la note, affirmant que "cela ne représentait pas mes opinions réfléchies".

Si vous respectez vos principes, vous serez traité comme un ennemi.

Si vous avertissez des risques et refusez de coopérer, vous serez interrogé sur votre recherche du pouvoir ou sur votre position morale.

Le dilemme d'Altman : soutenir les lignes rouges, mais être accusé d'opportunisme

Si Amodei a été supprimé pour avoir adhéré à la ligne rouge, Altman nous a dit que même si vous la soutenez, vous serez réprimandé.

Le 28 février, quelques heures seulement après l'échec des négociations entre Anthropic et le Pentagone, Altman a annoncé qu'OpenAI avait conclu un accord avec le ministère de la Défense.

Il a déclaré qu’OpenAI, comme Anthropic, interdit la surveillance de masse et les armes entièrement autonomes.


Le monde extérieur a explosé, accusant OpenAI d’affaiblir la position d’Anthropic à un moment critique :

Si ces entreprises étaient vraiment sérieuses au sujet de leurs engagements en matière de sécurité, elles auraient dû s’unir pour tenir tête au Pentagone au lieu de permettre au gouvernement de s’exploiter mutuellement en tant que concurrents sur le marché.

Ce qui est encore plus embarrassant, c’est que les propres employés d’OpenAI viennent de signer la semaine dernière une lettre ouverte soutenant Anthropic et s’opposant au Pentagone.

Maintenant, le patron s'est retourné et a signé le contrat, et les employés se sont sentis trahis.

Altman a admis lundi :

Nous ne devrions vraiment pas nous précipiter pour publier cet accord vendredi. Nous voulions sincèrement désamorcer la situation et éviter une issue pire, mais cela nous a semblé opportuniste et précipité.

Mais même si OpenAI modifie les termes du contrat, les experts juridiques et les observateurs se demandent toujours si les restrictions sont réellement contraignantes.

Altman a déclaré aux employés lors d'une réunion interne que le Pentagone avait clairement indiqué qu'OpenAI « ne pouvait pas participer à la prise de décision en matière de combat » et que l'entreprise ne pouvait que fournir une expertise et des conseils techniques, mais ne pouvait pas exprimer son opinion sur la qualité des opérations militaires.

Le dilemme de Hassabis : dix ans plus tard, le monde a changé

Le temps change tout, y compris vos engagements.

Lorsque Google a acquis DeepMind en 2014, Google a promis que la technologie de DeepMind ne serait jamais utilisée à des fins militaires ou militaires.

En 2018, les cofondateurs de Hassabis et de DeepMind ont signé une lettre ouverte appelant à l'établissement de « normes, réglementations et lois internationales fortes contre les armes mortelles autonomes ».

Mais en 2025, Google a révisé ses principes d’IA et a supprimé son engagement de ne pas développer de technologie militaire.

La technologie de DeepMind est désormais intégrée au logiciel Google Cloud et vendue aux militaires de nombreux pays, dont les États-Unis et Israël.


TIME a demandé : « Avez-vous fait des compromis afin d'atteindre les objectifs d'AGI ? La réponse de Hassabis fut :

Je ne pense pas. Nous avons récemment mis à jour certaines de nos politiques, en partie en réponse à l’augmentation significative de l’incertitude géopolitique mondiale.

Malheureusement, le monde est devenu plus dangereux. Je pense que nous ne pouvons plus tenir pour acquis que les valeurs démocratiques l’emporteront – ce n’est tout simplement pas clair. Je pense donc que nous devons travailler avec le gouvernement.

En mai de cette année, près de 200 employés de DeepMind ont signé une lettre interne appelant l'entreprise à abandonner ses contrats militaires.

Lors d'une réunion interne en juin, la directrice de l'exploitation, Lila Ibrahim, a répondu que DeepMind ne concevrait ni ne déploierait aucune application d'IA pour les armes ou la surveillance de masse, et que les clients de Google Cloud étaient liés par les conditions.


Il n’y a pas de solution au dilemme, mais l’avertissement ne peut pas s’arrêter

Amodei, Altman et Hassabis, trois personnes ont emprunté trois chemins différents, mais ils ont tous été réprimandés.

S'en tenir à la ligne rouge ? Vous recherchez l’avantage moral et l’avantage réglementaire.

Faire des compromis et coopérer ? Vous êtes un hypocrite et ne faites pas correspondre vos paroles à vos actes.

Changer de position ? Vous vendez votre âme pour de l'argent.

Lorsque vous êtes à la fois développeur et défenseur de la sécurité, chaque avertissement que vous lancez est interprété comme « vous rendez service à votre propre entreprise ».

Ces prédictions peuvent être vraies ou fausses.

Mais une chose est sûre. Peu importe Amodei, Altman ou Hassabis, peu importe ce qu’ils disent ou font, certaines personnes remettront en question leurs motivations.

Mais peut-être reste-t-il un choix plus responsable de continuer à avertir pendant la controverse plutôt que d’attendre qu’une catastrophe se produise et de dire ensuite « je vous avais prévenu ».