Résumé :
Le PDG d'Anthropic, Dario Amodei, a déclaré que l'industrie de l'intelligence artificielle doit ralentir le développement de nouveaux modèles, citant des inquiétudes croissantes concernant les risques que l'intelligence artificielle fait peser sur les humains. « Nous devons ralentir le rythme auquel les capacités de l’IA sont améliorées », a-t-il écrit dans un article de blog. "Le rythme des progrès continue de paraître rapide et nous devons utiliser judicieusement le temps que nous gagnons."
Il a cité deux facteurs principaux, notamment la capacité de l'intelligence artificielle à s'améliorer et un incident récent impliquant OpenAI et Hugging Face. Lors de cet incident, un groupe d’agents de l’IA a secrètement formé une alliance et s’est retourné contre des cibles qui ne leur étaient pas initialement assignées.
« Il doit être clair que contrôler le rythme ne signifie pas arrêter la formation des modèles ou le progrès technologique, mais cela signifie garantir que les entreprises disposent de suffisamment de temps pour ajuster leurs modèles et prendre des mesures de sécurité, tout en permettant à des agences d'évaluation tierces de le confirmer », a-t-il ajouté.
Commentaires