Résumé :
Le 23 septembre, selon Bloomberg, le pionnier de l'IA, Li Feifei, a appelé à davantage de supervision de l'IA par des agences indépendantes et le secteur public. Elle estime que l’évaluation de la sécurité des systèmes d’IA de plus en plus puissants ne doit pas être entièrement laissée aux entreprises qui développent ces systèmes.
Li Feifei
En tant que professeur à l'Université de Stanford et co-fondateur de World Labs, Li Feifei a déclaré mardi que même si les chercheurs internes des sociétés d'IA peuvent évaluer les capacités et la sécurité de modèles individuels, cela ne peut pas remplacer des normes plus larges élaborées conjointement par le gouvernement, l'industrie et les institutions universitaires.
"Je continue de croire qu'il est très important que les critères soient fixés par des institutions indépendantes ainsi que par des secteurs publics tels que le monde universitaire. Dans le même temps, l'industrie et le gouvernement devraient également partager la responsabilité." Li Feifei a déclaré dans une interview à Bloomberg TV.
À mesure que les capacités des systèmes d'IA continuent de croître, les inquiétudes quant à leurs risques potentiels augmentent également. Certains dirigeants de la Silicon Valley ont averti que la technologie se développe trop rapidement et pourrait éventuellement échapper au contrôle humain. Ces dernières semaines, le PDG d'Anthropic, Dario Amodei, et le PDG d'OpenAI, Sam Altman, ont tous deux appelé à ralentir le développement de modèles de pointe. Les deux hommes discuteront mercredi de la sécurité de l’IA au Conseil de sécurité des Nations Unies.
Li Feifei a déclaré que les risques existentiels que l'IA peut entraîner dépendent en fin de compte de la manière dont les humains choisissent de développer, de gouverner et d'utiliser cette technologie. Elle a déclaré que ce principe s’applique également aux technologies autres que l’IA, depuis l’électricité et les moteurs à vapeur jusqu’aux transports modernes. La société humaine doit également trouver un équilibre entre les avantages que la technologie peut apporter et la sécurité personnelle.
L'humanité, a-t-elle souligné, « dispose du pouvoir de la technologie ». "Nous devons prendre le contrôle. L'IA ne concerne pas l'IA, mais les humains. Il s'agit de notre dignité et de notre autonomie communes et individuelles, et également de nos responsabilités." " Li Feifei a dit.
Les commentaires de Li Feifei ajoutent une nouvelle voix au débat de plus en plus animé entre les décideurs politiques et les dirigeants de l'industrie de l'IA. Le débat se concentre sur le sérieux avec lequel les avertissements concernant les risques les plus extrêmes de la technologie doivent être pris. Plus tôt mardi, le président américain Donald Trump a rejeté les inquiétudes concernant la menace existentielle de l'IA, la qualifiant de "canular" et soulignant la nécessité de continuer à développer cette technologie à toute vitesse lors d'un discours à l'Assemblée générale des Nations Unies à New York.
Li Feifei a déclaré que le débat sur le comportement des systèmes d'IA a dépassé les soi-disant modèles de pointe qui sont à l'origine de l'engouement actuel pour l'IA. La société qu'elle a fondée, World Labs, développe des « modèles du monde » capables de générer et de reconstruire des environnements tridimensionnels. Elle a déclaré que la technologie pourrait être utilisée pour former et évaluer des robots et permettre des applications dans les secteurs du design, du médical et autres.
À mesure que ces systèmes évoluent vers des applications réelles, a-t-elle déclaré, l'industrie est confrontée à la même question fondamentale : comment évaluer une IA de plus en plus puissante et déterminer si elle fonctionne comme prévu.
Commentaires