Résumé :
"La vraie question est la suivante : si vous pensez que vous devriez ralentir, ne courez pas à grande vitesse et n'attendez pas que des forces extérieures vous forcent à vous arrêter." C'est ce qu'a déclaré le vice-président et président de Microsoft, Brad Smith, à Alan Murray lors de l'Assemblée générale des Nations Unies. Le sujet abordé était le suivant : les grands fabricants de modèles modernes devraient-ils appuyer sur la pédale de décélération pour garantir que la technologie qu'ils développent n'entraînera pas une catastrophe pour l'humanité ?
Le même jour où il a fait ces remarques, le PDG d'Anthropic, Dario Amodei, et le PDG d'OpenAI, Sam Altman, ont pris la parole aux Nations Unies, appelant les pays à établir des mécanismes de protection de la sécurité de l'IA pour empêcher le développement de l'IA au-delà des capacités de contrôle humain.
Smith, qui possède de nombreuses années d'expérience dans l'industrie, a déclaré : "Si vous, en tant que PDG d'une entreprise, estimez que votre produit présente des risques pour la sécurité, devriez-vous continuer à le commercialiser ? Je pense que la réponse est évidente : non. Les entreprises ont la responsabilité de la sécurité publique."
Même ainsi, a-t-il ajouté : "L'introduction de certaines mesures réglementaires sera finalement inévitable." Historiquement, de nombreux produits dépendaient de la réglementation pour garantir une mise en œuvre sûre. Par exemple, il y avait autrefois des problèmes de contamination du lait, "nous avons donc créé un service d'inspection agricole et introduit des lois pertinentes. Désormais, lorsque vous allez au supermarché, tous les types de lait sont sûrs et buvables."
Lorsque Smith a proposé qu'il devrait y avoir la possibilité de « ralentir ou arrêter le système d'IA directement », l'hôte Allen a confirmé qu'il parlait du commutateur d'arrêt d'urgence de l'IA (kill switch), puis a demandé : « Pensez-vous que c'est une bonne idée ? »
Smith a répondu : "Bien sûr... Le développeur du modèle devrait avoir le pouvoir de le fermer ; les fournisseurs d'infrastructure cloud comme Microsoft devraient avoir cette autorité ; et l'agence chargée de contrôler l'agent d'IA devrait également avoir la capacité de le fermer. Même si ce mécanisme est mandaté par la législation, ce ne serait pas une mauvaise chose."
Alan lui a demandé comment les chefs d'entreprise devraient gérer les problèmes de sécurité de l'IA au sein de leur entreprise. "Ce que je veux dire, c'est qu'il ne faut pas arrêter d'utiliser l'IA. L'IA est une innovation fondamentale et un outil important pour améliorer la productivité. Mais il est important de se rappeler que la technologie nécessite une gouvernance. ... La gouvernance de cette technologie est aussi importante que la technologie elle-même."
Il a également rappelé : "Je ne me réveille pas tous les jours en pensant qu'il y a une probabilité de 10 % d'extinction de l'humanité. Mais je préfère que nous nous inquiétions trop plutôt que d'en faire pas assez. Après tout, ce dont nous discutons concerne la survie humaine. Pour l'amour de Dieu, cette question est plus importante que la dernière technologie, et nous devons la prendre au sérieux."
Commentaires