Résumé :
La startup d'intelligence artificielle Anthropic a annoncé que son nouveau laboratoire de physique et de biologie de l'IA (Wet Lab) dans la région de la baie de San Francisco avait fait des « progrès significatifs ». Cependant, au niveau des opérations expérimentales, les chercheurs humains ont toujours un contrôle absolu et n'ont pas directement permis à leur modèle d'IA Claude de fonctionner de manière autonome sans supervision.
Il est rapporté que le laboratoire est principalement dédié à la recherche biologique fondamentale et à la vérification physique, dans le but de combler le fossé entre les simulations informatiques pures et les expériences biologiques réelles. Bien que les dirigeants d’Anthropic aient déjà lancé des avertissements à plusieurs reprises, soulignant que de puissants modèles d’IA peuvent entraîner des risques extrêmement graves en matière de biosécurité, voire de destruction humaine, l’entreprise accélère également l’application de l’IA dans le domaine des sciences de la vie. Eric Kauderer-Abrams, responsable du secteur des sciences de la vie, a souligné que "la vérification physique dans de vrais laboratoires restera irremplaçable pendant encore longtemps", ce qui est également l'intention initiale clé de l'entreprise en créant le laboratoire.
Le rapport souligne que même si Anthropic affirme que le laboratoire a obtenu des résultats préliminaires impressionnants, le détail le plus frappant est que l'entreprise n'a pas choisi de laisser directement l'IA « se laisser aller ». Toutes les procédures d'expérimentation physique, les opérations sur les réactifs et l'examen des données sont toujours sous un « contrôle en boucle fermée » strict (Les humains dans la boucle) par des chercheurs humains.
Les analystes ont souligné qu'Anthropic fait preuve d'une grande prudence dans la promotion de l'innovation biologique, ce qui reflète le double dilemme auquel sont confrontés les géants technologiques d'aujourd'hui lorsqu'ils recherchent des percées commerciales et scientifiques : d'une part, ils doivent utiliser des laboratoires physiques pour fournir des capacités de vérification aux partenaires pharmaceutiques et accélérer la lutte contre les maladies rares ; d’un autre côté, ils doivent faire face aux énormes inquiétudes de tous les horizons quant au risque d’utilisation abusive de l’IA pour créer de nouvelles menaces biologiques. En insistant sur le maintien de la position dominante de l’humain dans la boucle expérimentale, Anthropic tente d’établir une ligne rouge de conformité qui prend en compte à la fois l’innovation et la sécurité pour ses recherches biologiques en matière d’IA.
Commentaires