Résumé :
Bill Gates a accusé l'administration Trump d'entraver les efforts visant à prévenir les risques liés à l'IA, avertissant que cette technologie pourrait être exploitée pour provoquer une pandémie. S'exprimant lors du sommet sur l'avenir de l'IA mercredi, le cofondateur de Microsoft a déclaré que le modèle d'IA avait démontré des capacités « étonnantes », ce qui signifie que son potentiel bénéfique à l'humanité, ainsi que son potentiel de préjudice, ne peuvent être surestimés.
Il a déclaré que les entités malveillantes utilisant des outils d'IA pour créer des armes biologiques ou attaquer les vulnérabilités des réseaux dans toute la société constituent actuellement les risques les plus urgents. Ce qui est particulièrement remarquable, c'est que certains modèles dits « ouverts » sont disponibles gratuitement pour les développeurs, et que les mécanismes de protection et de surveillance de ces modèles peuvent être supprimés.
Le magnat de la technologie a averti que les incidents de biosécurité provoqués par l'IA pourraient causer « une ampleur de dégâts bien plus grande que l'épidémie ».
Gates a déclaré qu'en dépit des risques mentionnés ci-dessus, les efforts mondiaux visant à réglementer et à surveiller l'IA et son impact sont au point mort en raison de l'inaction de la Maison Blanche.
"Si les États-Unis ne sont pas impliqués, la valeur des actions pertinentes est très limitée. Nous sommes donc maintenant dans une impasse... La seule question est de savoir combien d'incidents violents se produiront avant qu'ils ne changent de position."
Gates est l'un des leaders technologiques qui continue de lancer des avertissements forts. Il a averti que la voie actuelle de développement de l’IA pourrait conduire à des abus ou à un abandon du contrôle humain, avec des conséquences catastrophiques. Le philanthrope avait déjà prévenu que l’IA pourrait tuer un milliard de personnes et avoir un impact massif sur le marché du travail.
Ces derniers mois, les inquiétudes concernant les risques de sécurité liés à cette technologie émergente ont continué de croître. Le prospectus d'introduction en bourse d'Anthropic la semaine dernière avertissait que l'IA pourrait entraîner « des risques catastrophiques, voire existentiels », pour l'humanité. Gates a félicité ce laboratoire d'IA de pointe pour avoir osé être franc sur les risques de l'IA : "Ils ont toujours été très francs, et ceci est un autre exemple."
Malgré le rythme étonnant d’itération de la technologie de l’IA, le président Trump a rejeté les appels visant à renforcer la réglementation gouvernementale de l’IA. Il a rejeté les tentatives visant à promouvoir les lignes directrices du G20 sur l'IA comme une « solution mondialiste » et préfère l'autorégulation de l'industrie technologique.
Gates estime que l'autoréglementation de l'industrie ne fonctionnera pas : "Une fois que plusieurs entreprises participent, la responsabilité de résoudre ce problème ne peut incomber qu'au niveau gouvernemental."
Il a appelé le gouvernement à établir des références pour les mécanismes de protection et de surveillance de la sécurité intégrés aux modèles d'IA, à mener des actions mondiales pour enquêter sur les vulnérabilités des réseaux et à construire un système de surveillance à grande échelle couvrant l'air, les eaux usées et le sang afin de détecter le plus tôt possible les infections potentielles causées par l'IA.
Gates a reçu la version préliminaire de ChatGPT d'OpenAI en avance en 2022. Il a révélé qu'OpenAI et Anthropic lanceraient très probablement de nouveaux modèles cette année, et qu'il y aurait « deux versions majeures » en 2027.
Il a ajouté qu'à mesure que ces nouveaux modèles seront mis en ligne, « la perte de contrôle du modèle lui-même » deviendra un problème sérieux dans un avenir proche. Gates a préconisé que le gouvernement doive améliorer davantage le mécanisme de sécurité et mener des audits par des tiers sur les nouveaux modèles.
Il a également appelé à accélérer l'exploration des valeurs positives de l'IA, telles que la recherche et le développement de médicaments et la réduction des temps d'attente à l'hôpital : "Ces avantages ne se produiront pas naturellement."
Gates a également exprimé son soutien à la taxation des milliardaires et des groupes à revenus très élevés. Dans le contexte où l’IA remodèle profondément la société, cette déclaration équivaut à exprimer son soutien à la proposition référendaire californienne sur l’« impôt des riches ». Selon les résultats préliminaires du décompte des voix mardi lors des élections de mi-mandat aux États-Unis, cette proposition sera probablement rejetée.
Il a affirmé les engagements philanthropiques des co-fondateurs d'OpenAI et d'Anthropic, et a déclaré qu'il communiquait et coopérait avec eux pour "garantir que ces fonds joueront un rôle énorme dans de nombreux domaines tels que la santé mondiale".
Commentaires