Résumé :
Selon Bloomberg, Harvey est une startup américaine de technologie juridique évaluée à 15,6 milliards de dollars. Le cœur de son activité est de former des modèles d’IA comme OpenAI GPT-4 pour réaliser le travail professionnel des avocats. Cependant, la récente flambée des coûts de l’IA incite l’entreprise à reconsidérer sa dépendance à l’égard de ces géants de l’IA.
Harvey utilise Kimi K3 pour construire son propre modèle
Selon une personne proche du dossier, après la mise à jour de son agent IA en mars, l'utilisation des clients d'Harvey a bondi, mais sa marge bénéficiaire brute a fortement chuté, passant d'environ 50 % au début de l'année à -50 % en juin.
Aujourd'hui, la startup rejoint un nombre croissant d'éditeurs de logiciels adoptant des modèles à pondération ouverte, y compris des alternatives chinoises de plus en plus performantes. Ces modèles sont souvent moins chers que la technologie exclusive des développeurs américains d’IA et permettent à des entreprises comme Harvey de créer des modèles personnalisés en utilisant leurs propres données.
Des institutions d'investissement telles que Sequoia Capital et General Catalyst soutiennent cette tendance. Non seulement cela permet aux entreprises d’économiser l’un des coûts les plus importants, mais cela leur donne également plus de contrôle sur leur propre technologie, plutôt que de la sous-traiter à OpenAI et Anthropic.
Cette décision pourrait gruger les revenus du géant de l'IA alors qu'OpenAI et Anthropic se préparent à des introductions en bourse très attendues. Dans le même temps, alors que le débat sur la nécessité de ralentir le développement de l’IA de pointe continue de s’intensifier, pour certaines startups, l’adoption de modèles de pondération ouverts est également un moyen de se préparer à un mauvais jour au cas où le développement des modèles d’IA les plus avancés pourrait être ralenti ou restreint à l’avenir.
Modèle ouvert
Harvey a lancé son propre modèle en août, propulsé par Kimi K3, société chinoise Dark Side of the Moon. Le Kimi K3 est proche des modèles les plus avancés d'Anthropic, mais coûte beaucoup moins cher. La publication du modèle, ainsi que d'autres ajustements apportés par Harvey à la façon dont elle utilise l'IA, ont ramené la marge bénéficiaire brute de l'entreprise en territoire positif, ont déclaré des personnes proches du dossier. Harvey a refusé de commenter les chiffres financiers spécifiques de cet article.
De même, la start-up de technologies de la santé Abridge a récemment annoncé qu'elle formait un modèle de base personnalisé pour les scénarios cliniques basé sur le modèle ouvert de NVIDIA. Decagon, une startup de service client IA, a déclaré que 80 % de ses demandes sont actuellement traitées via son propre modèle. Dans le domaine de la fintech, des startups comme Ramp et Rogo explorent pour la première fois la formation de leurs propres modèles. Parmi les sociétés de programmation, Cursor, qui fait désormais partie de SpaceX, et Cognition, évaluée à 48 milliards de dollars, ont été les premières sociétés d'applications d'IA à lancer des modèles personnalisés.
Karim Atiyeh, co-PDG de Ramp, a déclaré qu'il était trop coûteux pour Ramp de construire un modèle auto-construit auparavant, mais après avoir levé 750 millions de dollars en juin, la société envisage de le faire car le système de poids ouvert a fait de grands progrès. "Cela n'avait absolument aucun sens de faire cela il y a un an, et cela commence à avoir beaucoup plus de sens maintenant."
Atiye a déclaré qu'à mesure que le coût de la puissance de calcul augmente, "il est totalement irresponsable de ne pas considérer cette question et de ne pas l'optimiser". Son entreprise négocie actuellement pour apporter davantage de capitaux.
Cependant, tous les investisseurs ne sont pas d’accord avec cette tendance. Matt Kraning, associé chez Menlo Ventures, un investisseur dans Anthropic, estime que toutes les entreprises ne sont pas adaptées au développement de modèles personnalisés, car cela nécessite des talents spécialisés et entraîne des coûts initiaux plus élevés. Pour certaines entreprises, il ne s’agit que d’un stratagème marketing, dit-il.
"Avez-vous votre propre modèle ? Cette question en elle-même n'est pas la bonne. Dans la plupart des cas, il ne s'agit souvent que d'un faux-semblant." » dit Kranin.
Commentaires