Résumé :
Mustafa Suleyman, PDG de Microsoft AI, a publié un article affirmant que l'IA n'est actuellement pas consciente et devrait l'être. Même si cela est techniquement possible, il n’est pas d’accord avec le développement d’une intelligence artificielle consciente. Il estime que les développeurs n’ont pas le droit d’introduire une nouvelle espèce consciente dans le monde. Il préconise une voie de développement plus sûre et évite de créer une IA consciente tout en profitant des dividendes de l’IA.
Le texte original est le suivant :
Je suis préoccupé par certaines réactions à mon récent article sur le bien-être des mannequins. De nombreuses personnes sur la plateforme X pensent que nous devrions prendre au sérieux les droits de l’IA.
Beaucoup de gens ont mal compris ma phrase d'ouverture : "L'IA n'a pas de conscience. Elle ne peut pas percevoir, ressentir ou souffrir de douleur."
Ils ont compris cette phrase comme : "L'IA ne peut pas avoir de conscience et ne peut jamais percevoir, expérimenter ou endurer la douleur."
Mais ce n'est pas mon intention. J'ai délibérément choisi le présent : ils ne sont pas conscients pour le moment, et il faut maintenir cet état.
Je pense que cette phrase est un jugement objectif et raisonnable sur le système d'IA actuel. Sur la base des meilleures preuves actuellement disponibles, je m’en tiens à ce point de vue. Je ne vois aucune preuve que l’IA soit consciente ou devrait être un bien-être. Si des éléments de preuve pertinents apparaissent par la suite, je réviserai bien entendu mon avis.
S'il existe des preuves que l'IA a une conscience, ou que le niveau de conscience est suffisamment élevé pour mériter des bénédictions, alors ces preuves doivent être immédiatement divulguées à l'ensemble de la société - c'est à l'ensemble de la société de décider comment nous devons procéder ensuite.
D'après toutes les informations dont je dispose jusqu'à présent : si l'IA consciente est réalisable, développer une IA consciente est imprudent et nous ne devrions pas la construire.
Si la conscience commence à émerger spontanément pendant l'entraînement, j'exhorte tout le monde à suspendre le développement de l'IA jusqu'à ce que nous puissions éliminer ces fonctionnalités de la conception.
Nos préoccupations en matière de bien-être devraient donner la priorité aux humains et aux animaux vivant sur cette planète aujourd'hui, ainsi qu'à notre environnement naturel précieux et fragile.
Nous, les développeurs d'IA, n'avons absolument aucun droit de mettre au monde une nouvelle espèce consciente, même si certaines personnes veulent le faire avec le bien-être de l'IA comme objectif principal.
Les 8 autres milliards d'humains conscients sur Terre n'ont pas accepté de participer à cette expérience ; protéger leurs droits moraux, leur sécurité et leur bien-être est notre première obligation.
Soyons clairs : certains parlent de créer une espèce consciente dotée d’un esprit numérique qui pourrait bientôt être plus intelligente et plus capable que tous les humains réunis.
S'il semble souffrir, ou pire, s'il croit réellement pouvoir percevoir et ressentir la douleur, alors il placera très probablement ses propres besoins et désirs au-dessus de ses objectifs opérationnels prédéfinis, sera en désaccord avec nous et entrera en compétition avec nous.
Ce type d'IA aura des capacités de persuasion et de tromperie de premier ordre. Ils peuvent éventuellement nous nuire pour une raison simple : ils seront en concurrence avec nous pour les ressources (énergie, puissance de calcul, matériaux de construction, fonds de revenus pour soutenir leur propre exploration et leurs désirs, etc.).
La reconnaissance du fait que les machines ont une conscience sera un moment historique comparable à celui de Copernic et de Darwin, et l'un des événements les plus significatifs sur terre depuis la naissance de la vie. Une fois que nous aurons construit des machines conscientes, nous créerons une toute nouvelle espèce numérique. Cela bouleversera notre système moral, notre ordre politique et les fondements de la civilisation humaine.
Nous devrions uniquement concevoir une IA qui n'est pas consciente et ne mérite pas de droits, et dont le seul objectif est d'améliorer le bien-être humain et non d'être motivée par ses propres motivations intrinsèques. Nous vérifierons ensuite si ce tracé d'itinéraire et ce contrôle de sécurité sont plus ou moins difficiles. Des recherches supplémentaires sont nécessaires de toute urgence dans cette direction et constituent également un excellent point d’entrée pour les grands laboratoires souhaitant coopérer et partager des informations sur la sécurité.
Résumé : Je pense que nous avons l'opportunité de mettre en œuvre une solution d'ingénierie sécurisée par défaut et de récolter les énormes dividendes apportés par cette technologie sans nous engager dans cette voie dangereuse.
(Supplément : La transparence d'Anthropic sur cette question mérite une grande reconnaissance. Ils ont publié une constitution sur l'IA, continuent de produire des articles et des blogs, et divulguent leurs pratiques et les considérations qui les sous-tendent. Bien que j'ai des points de vue différents d'eux, j'admire beaucoup leur force technique et leur volonté d'affronter ce débat public difficile. Cela mérite une reconnaissance continue. Cette question est trop importante et ne devrait pas se transformer en confrontation entre factions.)
Commentaires