De nombreuses personnes craignent que l’intelligence artificielle progresse au point où les humains perdent dangereusement le contrôle de ces systèmes, entraînant des conséquences allant de très mauvaises à apocalyptiques. Mais les avertissements sont encore plus alarmants lorsqu'ils émanent du secteur technologique, notamment du PDG d'Arm, qui affirme que la situation l'empêche de dormir la nuit.
Le patron d'Arm, René Haas, a déclaré à Bloomberg que l'IA nécessiterait une forme de commutateur ou de porte dérobée pour arrêter le système. "Ce qui m'inquiète le plus, c'est que les humains perdent le contrôle", a déclaré le patron de l'entreprise de conception de puces lorsqu'on lui a demandé ce qui l'empêchait de dormir la nuit lorsqu'il pensait à l'intelligence artificielle.
Haas estime que 70 % de la population mondiale a été exposée d'une manière ou d'une autre à un produit conçu par Arm et que sur les 1,4 milliard de smartphones vendus chaque année, 99 % utilisent des conceptions Arm ou sa technologie. Bien entendu, il n’est pas opposé à l’intelligence artificielle et est conscient du rôle que jouera Arm dans la nouvelle révolution technologique. Le PDG a déclaré un jour : « Vous ne pouvez pas vraiment faire fonctionner l’intelligence artificielle sans Arm. Mais nous avons besoin d’une sécurité intégrée. »
"Je pense qu'elle (l'intelligence artificielle) entrera dans tout ce que nous faisons et dans tous les aspects de la façon dont nous travaillons, vivons et jouons", a déclaré Haas, devenu PDG l'année dernière. "Dans les cinq à dix prochaines années, cela va tout changer."
Haas n'est pas le premier du secteur à admettre ses inquiétudes concernant l'intelligence artificielle. Le PDG d'OpenAI, Sam Altman, a averti en février que le monde n'était peut-être pas loin d'une intelligence artificielle « potentiellement effrayante ». La société ChatGPT a également prévenu en juillet qu’une intelligence artificielle plus intelligente que les humains pourrait conduire à l’extinction de l’humanité.
Il y a aussi le patron de xAI, Elon Musk, qui a parlé de la technologie comme d'une menace existentielle pour l'humanité, et le pionnier de l'intelligence artificielle Geoffrey Hinton, qui a quitté Google en mai en raison des risques posés par l'IA émergente. De nombreux experts et PDG ont même comparé les dangers posés par l’IA à la guerre nucléaire et aux pandémies. Les deux tiers du public américain sont également inquiets.
Cependant, tout le monde ne partage pas les mêmes préoccupations. Le professeur Yann LeCun, autre parrain de l'intelligence artificielle, a déclaré que les avertissements selon lesquels l'intelligence artificielle menace l'humanité sont « ridicules ». Michio Kaku, professeur bien connu de physique théorique, a comparé l'intelligence artificielle générative à un magnétophone glorifié.