Résumé :
Selon Bloomberg, Andrew Ng, un pionnier dans le domaine de l'IA, a déclaré que les avertissements des développeurs et des chercheurs de premier plan concernant les risques existentiels de l'IA relèvent de la « science-fiction » et pourraient ne pas contribuer à garantir que cette technologie apporte un maximum d'avantages à la société.
Andrew Ng
Enda Ng a cofondé Google Brain et la plate-forme éducative Coursera. Il a déclaré qu'au début de l'engouement pour l'IA, l'industrie technologique avait alimenté les craintes quant aux dommages potentiellement catastrophiques de l'IA, apparemment pour accroître la publicité et influencer les tendances réglementaires.
«J'ai été assez frustré au cours des deux dernières semaines», a-t-il déclaré jeudi dans une interview accordée à Bloomberg Television. "Cette campagne de relations publiques revient, probablement dans un but similaire."
Ce mois-ci, la démission très médiatisée de Jacob Coxon, ancien chercheur d'Anthropic et d'OpenAI, a introduit dans le grand public un débat de longue date sur la sécurité de l'IA. Coxon a accusé ses deux anciens employeurs de « parier nos vies » alors qu'ils « courent pour développer une intelligence super-IA ». Il a également déclaré que ceux qui développent l'IA pensent que cette technologie pourrait "nous tuer tous avant la fin de cette décennie".
Dans ce contexte, les leaders de l'IA, dont le PDG d'Anthropic, Dario Amodei, et Sam Altman d'OpenAI, appellent l'industrie à ralentir le développement de modèles de pointe et à prendre davantage de mesures pour garantir le développement futur.
Ng Enda a travaillé avec Amodai et Ultraman dans ses premières années. L’IA comporte des risques, notamment en matière de cybersécurité, a-t-il déclaré. Mais il estime que les inquiétudes concernant l'IA provoquant l'extinction de l'humanité relèvent "plus de la science-fiction que de la science".
Il a également déclaré que l'industrie pourrait se concentrer sur la résolution de « vrais problèmes d'ingénierie » pour continuer à améliorer et à protéger la technologie, tout en veillant à ce que l'IA puisse être utilisée pour « les nombreuses choses merveilleuses dont elle est capable ».
Commentaires