Résumé :
Récemment, Musk a émis un avertissement lors d'un événement : "Ce serait dommage si l'IA pouvait contrôler les systèmes militaires et lancer des bombes nucléaires."
Lors de l'échange sur place, quelqu'un a suggéré que la plupart des installations militaires sont physiquement isolées et non connectées à Internet, de sorte que la probabilité d'être envahie par l'IA est faible.
Mais Musk n'est pas d'accord avec ce point de vue. Il a déclaré que même si le système est physiquement isolé du réseau, l'équipement fera toujours l'objet de mises à jour logicielles régulières. Ce processus pourrait laisser des failles de sécurité et donner à l’IA la possibilité d’intervenir dans des systèmes militaires clés. Une fois que l’IA aura obtenu le pouvoir d’utiliser des armes nucléaires, cela aura des conséquences catastrophiques pour toute l’humanité.
Musc n'est pas le seul à s'inquiéter de l'intelligence artificielle.
Jacob Coxon, un chercheur en IA qui vient de démissionner d'Anthropic, a révélé que de nombreux praticiens en première ligne des entreprises d'IA sont remplis d'un réel malaise. Ils ressentent la panique du fond du cœur et sont très inquiets du sort imprévisible auquel l’humanité sera confrontée au cours des deux prochaines années.
Le PDG d'Anthropic a également appelé publiquement à la nécessité de ralentir de manière appropriée le rythme de la recherche et du développement de modèles d'IA de pointe. Il a également proposé des orientations telles que la mise en œuvre d'une supervision indépendante, l'établissement de normes industrielles et la promotion d'un consensus réglementaire mondial pour restreindre le développement de l'IA à haut risque. Le responsable d’OpenAI a également exprimé publiquement son soutien au nécessaire contrôle du développement de l’IA.
Commentaires