Andrej Karpathy, l'un des chercheurs les plus influents dans le domaine de l'intelligence artificielle moderne et membre co-fondateur d'OpenAI, a officiellement rejoint Anthropic et se concentrera sur la recherche de base et la pré-formation des grands modèles de langage (LLM). Kapasi était l'un des membres fondateurs de l'équipe OpenAI dans ses premières années. Il a travaillé comme chercheur scientifique au début de l’entreprise. Ses domaines de recherche couvrent la vision par ordinateur, l'apprentissage profond et l'intelligence artificielle multimodale. Avant la montée de la vague actuelle de LLM, il avait déjà mené des recherches approfondies dans les domaines de la description d’images et de l’alignement visuo-sémantique.
Kapasi a annoncé son déménagement sur la plateforme sociale X. Il a déclaré avoir rejoint Anthropic et estime que les prochaines années seront une étape particulièrement critique pour le développement frontalier des grands modèles. Il est donc très impatient de revenir sur le front de la recherche et du développement. Il a également souligné qu'il était toujours passionné par le domaine de l'éducation et qu'il envisageait de continuer à promouvoir les travaux connexes au moment opportun dans le futur.
Avant de rejoindre Anthropic, Capasi a été recruté chez Tesla par Elon Musk en tant que directeur de l'IA et a dirigé l'équipe de vision Autopilot. Il a été l'un des personnages clés dans le passage de Tesla d'une dépendance au radar et au lidar à un itinéraire de conduite autonome centré sur la caméra. Il a quitté Tesla en 2022. En 2023, Kapasi est revenu à OpenAI pour participer à la recherche sur l'intelligence artificielle liée à ChatGPT, et est reparti en 2024. Depuis lors, il a fondé Eureka Labs, une start-up axée sur l'enseignement de l'IA, dans le but de créer une nouvelle expérience d'apprentissage tournée vers l'avenir et « native de l'IA ».
Pour Anthropic, qui s’engage dans le développement de grands modèles de pointe, l’arrivée de Kapasi est considérée comme une acquisition de talents importante. Actuellement, Anthropic est en concurrence avec des sociétés telles que OpenAI, Google DeepMind, xAI et Meta pour des modèles de pointe plus puissants, et la concurrence pour recruter les meilleurs chercheurs est particulièrement féroce. À en juger par la position publique de Kapasi, il se concentrera principalement sur les travaux de recherche et développement de base chez Anthropic et mettra temporairement de côté les projets entrepreneuriaux antérieurs dans le domaine de l’éducation.
Les initiés d’OpenAI ont également réagi aux changements de personnel. Certaines personnes ont dit qu'elles espéraient au départ que Kapasi puisse revenir à OpenAI, mais elles sont toujours heureuses qu'il choisisse de rejoindre n'importe quel laboratoire de pointe et de continuer à promouvoir le développement de la technologie la plus importante de cette époque. Il a souligné que la concurrence entre laboratoires ne doit pas être considérée simplement comme un jeu à somme nulle, car dans l’ensemble, ces institutions favorisent conjointement le progrès dans l’ensemble du domaine de l’intelligence artificielle.
Au sein d'Anthropic, Capasi rejoindra l'équipe de pré-formation dirigée par Nick Joseph pour faire progresser la recherche dans la phase de pré-formation des grands modèles de langage. La pré-formation est la première étape clé du processus de formation de grands modèles de langage. À ce stade, le modèle sera exposé à des données massives et apprendra des modèles de langage, des structures grammaticales, des connexions sémantiques et des connaissances du monde, jetant ainsi les bases d'un réglage et d'un alignement ultérieurs. On pense que l’ajout de Kapasi devrait accélérer le rythme d’innovation d’Anthropic dans ce segment technologique de base.