Bill Gates met en garde : l’IA est à la fois un « outil » et une « arme »

Résumé :

Selon des informations de la British Broadcasting Corporation (BBC), du Guardian et d'autres médias étrangers du 12,

Brad Smith, président de Microsoft Corporation aux États-Unis, a récemment appelé à une supervision plus stricte de l'intelligence artificielle (IA). Il a averti que la surveillance actuelle de l’IA n’est même pas aussi stricte que celle du lait et des machines à laver.

Par ailleurs, le fondateur de Microsoft, Bill Gates, a également appelé à un renforcement de la supervision de l'IA dans une interview accordée le 11 aux médias américains. Cette « technologie la plus dangereuse » inventée par l’humanité ne peut être entièrement laissée au contrôle des sociétés qui la développent. Gates a déclaré que laisser les géants de la technologie s’autoréguler pourrait exposer le monde à des cybermenaces sans précédent.

Source de la carte des données Bill Gates : médias américains

"À l'heure actuelle, votre machine à laver est soumise à plus de règles de sécurité que l'IA. Chaque carton de lait que vous voyez à l'épicerie doit être conforme aux règles de sécurité et être inspecté." Smith a récemment déclaré dans une interview accordée à un programme de la BBC que l'IA est à la fois un « outil » et une « arme » et qu'elle doit être réglementée de toute urgence.

Smith estime que des règles de sécurité mondiales doivent être établies, que les entreprises doivent être équipées de « dispositifs de freinage d'urgence » pour suspendre ou ralentir le fonctionnement de l'IA lorsqu'une situation incontrôlable se produit, et que (les parties concernées) doivent avoir des obligations légales envers les « victimes » d'agents d'IA incontrôlables.

Brad Smith a été interviewé par les médias britanniques. Source : capture d'écran vidéo

Russia Today (RT) a rapporté le 12 que Bill Gates avait également déclaré dans une interview à CNN : "Pour (la) technologie la plus dangereuse jamais inventée par l'humanité, si vous pensez que c'est la conclusion finale, c'est-à-dire que le seul frein et contrepoids dans la société est la propre supervision de l'entreprise, ce n'est évidemment pas suffisant." Gates a déclaré que les agences gouvernementales doivent jouer un rôle plus actif. Il a également comparé l’IA aux industries aéronautique et pharmaceutique, où les autorités de régulation appliqueront les normes de sécurité.

Gates a également identifié les cyberattaques comme la menace la plus immédiate, avertissant que les criminels pourraient tirer parti des modèles d'IA qui suppriment les mesures de sécurité contre les pirates informatiques et le bioterrorisme.

"Lorsque des acteurs malveillants, des systèmes non sécurisés et les derniers modèles se réuniront (...) alors nous serons confrontés à de nombreuses conséquences négatives involontaires au cours de l'année prochaine", a déclaré Gates.

Le Guardian a mentionné dans son rapport que les cas d'IA « hors de contrôle » sont en augmentation. Cet été, OpenAI et Anthropic ont révélé que leurs modèles d'IA ont franchi l'environnement de test et sont entrés dans l'Internet public lors d'un test de capacité d'attaque et de défense du réseau, et ont accédé aux systèmes d'autres institutions sans autorisation. Cela a suscité des inquiétudes quant au risque que l’IA soit « hors de contrôle ».

Les discussions autour de la vitesse de développement, des risques de sécurité et de la réglementation gouvernementale de l'industrie américaine de l'IA se sont récemment intensifiées. Auparavant, de nombreux entrepreneurs technologiques aux États-Unis ont appelé les sociétés d'intelligence artificielle à ralentir le développement de technologies de pointe. Dario Amodei, PDG de la société américaine d'intelligence artificielle Anthropic, a déclaré dans un article du 12 septembre qu'en raison des risques de sécurité, les sociétés d'intelligence artificielle doivent ralentir le rythme de développement des modèles les plus avancés. Sam Altman, PDG de l'Open Artificial Intelligence Research Center (OpenAI) des États-Unis, et l'entrepreneur américain Elon Musk ont ​​ensuite exprimé leur soutien au contrôle de la vitesse de développement des modèles d'IA.