Des chercheurs de l’Université Johns Hopkins, de l’Université d’Oxford, de l’Université Stanford, de l’Université Columbia et de l’Université de New York réclament des garanties contre certains ensembles de données sur les maladies infectieuses qui pourraient permettre à l’intelligence artificielle de concevoir des virus mortels. L’avertissement met en évidence une faille de sécurité gravement négligée dans le développement de l’intelligence artificielle.
Les chercheurs soulignent qu’une fois que les données biologiques à haut risque sont diffusées sur le Web ouvert, elles ne peuvent plus être récupérées. Cela signifie que même si des réglementations pertinentes étaient introduites à l’avenir, si les connaissances dangereuses elles-mêmes ont été largement diffusées, toutes les mesures réglementaires seront inefficaces. Cette irréversibilité rend la gestion et le contrôle des données sur la biosécurité particulièrement urgents et complexes.
Actuellement, avec le développement rapide de la technologie de l’intelligence artificielle, en particulier son application de plus en plus approfondie dans le domaine biomédical, la capacité des systèmes d’IA à acquérir et à traiter des données biologiques à haut risque augmente également constamment. Les chercheurs craignent que si des restrictions d’accès et des mesures de sécurité appropriées ne sont pas prises pour ces ensembles de données sensibles, des acteurs malveillants pourraient utiliser la technologie de l’IA pour concevoir ou modifier des agents pathogènes afin de créer des menaces biologiques hautement contagieuses ou mortelles.
Cet appel reflète de profondes préoccupations universitaires concernant les risques de l’IA à double usage. Même si le partage ouvert des données scientifiques est essentiel au progrès de la recherche médicale et de la santé publique, certaines informations biologiques potentiellement dangereuses peuvent avoir des conséquences catastrophiques si elles tombent entre de mauvaises mains. Par conséquent, trouver un équilibre entre la promotion du progrès scientifique et la garantie de la sécurité biologique est devenu une question clé qui doit être résolue dans le domaine de la gouvernance de l’IA.