Obsédée par le « contrôle du rythme », l’industrie de l’IA ignore les vrais problèmes politiques

Résumé :

Dario Amodei n'a jamais été une célébrité médiatique douée pour danser devant la caméra. Il n'a pas prononcé beaucoup de paroles sages lors des entretiens et ses expressions faciales étaient souvent tendues et raides. Mais il a choisi de publier ses opinions les plus importantes et les plus marquantes sur son site personnel darioamodei.com. Les faits ont prouvé qu’il s’agit d’une stratégie de communication extrêmement intelligente. Célèbre dicton du chercheur Marshall McLuhan qui circule depuis un demi-siècle

« Le médium est le message »

Amodei a publié un article de blog intitulé « Nous devons contrôler le rythme du développement de pointe », préconisant que l'ensemble du secteur ralentisse le rythme de la recherche et du développement en matière d'IA. Dès la publication de cet article, les commentaires ont été très nombreux sur le sujet

Le timing est également essentiel. Aujourd’hui, le sujet des risques apocalyptiques liés à l’IA fait la une des journaux, non seulement à Washington et dans la Silicon Valley, mais partout dans le monde. (Nous avons rendu compte des pressions en coulisses en faveur d’une réglementation de l’IA par les grandes entreprises technologiques).

Au milieu de la frénésie de l'opinion publique, beaucoup de gens ont négligé un point : l'article d'Amodei ne contient pas beaucoup de contenu nouveau qui soit vraiment d'actualité (mais pour le cercle d'évaluation de la sécurité de l'IA à but non lucratif, cela reste une grande nouvelle). Et les affirmations d'Amodei ne semblent pas nuire aux activités d'Anthropic ou au cours de ses actions en raison de sa prochaine introduction en bourse dans quelques semaines. Il a écrit : "Il doit être clair que contrôler le rythme ne signifie pas arrêter la formation des modèles ou le progrès technologique."

Je me demande si nous allons revenir sur cette série d'actualités à l'avenir et la considérer comme l'un des derniers moments où l'industrie de l'IA peut encore dominer les récits de l'opinion publique. La Silicon Valley est sans précédent égocentrique et embourbée dans les moindres détails des politiques de sécurité de l’IA : quels risques antitrust surgiront si les entreprises ralentissent de manière coordonnée la recherche et le développement de l’IA ? D’où vient l’argent destiné à financer ces agences d’évaluation dites « indépendantes » ? « Contrôler le rythme du développement de pointe », ces trois mots peuvent presque être inclus dans l'argot technologique du Temple de la renommée.

Dans le même temps, les politiciens et les électeurs sont vraiment préoccupés par une proposition plus vaste : l’IA est-elle une bonne chose pour nous ? Leurs préoccupations ne concernent pas seulement les risques existentiels posés par la super intelligence artificielle qui font la une des journaux de l’industrie technologique, tels que les attaques bioterroristes, les essaims d’agents d’IA et les capacités d’attaque des pirates informatiques. Les gens voient également des risques plus tangibles et réels : les gens perdent leur emploi, leur esprit critique se détériore et la garde et l'éducation de leurs enfants sont affectées.

Le problème réside dans le produit d'IA lui-même, et non dans la vitesse d'avancement de la R&D.

C'est ici qu'Amodei pourrait perdre son autorité morale et bouleverser la logique d'investissement de l'introduction en bourse d'Anthropic. Dans quelques mois, les démocrates ont de fortes chances de prendre le contrôle de la Chambre des représentants et même du Sénat. L’ancien président Obama a exhorté les dirigeants des partis à se concentrer sur la réglementation de l’IA. Le sénateur du Vermont, Bernie Sanders, a présenté un projet de loi qui mettrait en prison quiconque tente de développer un système d'IA doté d'une intelligence supérieure à celle des humains. Trump, qui a essentiellement adopté une attitude de laisser-faire à l’égard de la réglementation de l’IA, ce qui a grandement bénéficié à l’ensemble du secteur, arrive à la fin de son mandat.

La tendance de l'époque qui anime Amodei depuis de nombreuses années semble changer. Peut-il continuer à dominer le discours de l’opinion publique ?

Spiegel a personnellement parié sur le matériel AR

En ce qui concerne le matériel grand public à prix élevé, Snap est sur le point de tenir une conférence de presse pour les lunettes AR sorties il y a quelques semaines et ridiculisées à l'époque

SPECS

Non seulement ces lunettes ont l'air pauvres et lourdes, mais elles coûtent également la somme énorme de 2 195 $. Mais Spiegel ne semblait pas s'en soucier. Dans une lettre ouverte interne commémorant le 15e anniversaire de Snap, il a souligné à plusieurs reprises qu'il considérait SPECS comme « l'avenir de l'informatique personnelle ».

Snap affirme que l'appareil sera disponible cet automne, ce qui pourrait enfin lui donner raison. Mais à en juger par la faiblesse persistante du cours de l’action de Snap, rares sont ceux qui sont prêts à parier sur cette vision pour le moment. Les actions de la société ont chuté de 30 % cette année.