Après que Red Hat ait acquis Neural Magic l'année dernière pour renforcer ses capacités d'IA open source, la société a annoncé aujourd'hui avoir acquis une autre société d'intelligence artificielle et continue d'étendre sa structure commerciale d'IA au niveau de l'entreprise. La cible de cette acquisition est Chatterbox Labs, une société privée fondée en 2011 qui se concentre sur les tests de modèles d'IA et les capacités de protection de sécurité (« garde-corps ») pour l'IA générative.
Chatterbox Labs fournit une plate-forme appelée AIMI, qui peut fournir des indicateurs quantitatifs sur les risques de l'IA et fournir une série de fonctions autour du comportement des modèles et de la gestion des risques pour aider les entreprises à évaluer et contrôler les sorties inappropriées et les risques potentiels des modèles dans des applications pratiques.
Red Hat a déclaré qu'à mesure que les entreprises font passer les projets d'IA du stade expérimental à l'environnement de production, la surveillance continue des biais des modèles, de la toxicité et de diverses vulnérabilités est devenue indispensable. Les tests de sécurité de l'IA et les capacités de « garde-fou » deviennent le « seuil de base » des plateformes MLOps et LLMOps modernes.
Red Hat a déclaré dans un communiqué que l'acquisition est conçue pour répondre directement à l'augmentation rapide de la demande de « sécurité de l'IA » et espère qu'en intégrant la technologie de Chatterbox Labs, elle fournira aux clients une plate-forme d'IA open source plus complète de niveau entreprise afin qu'ils puissent « exécuter des charges de travail d'IA dans des environnements de production en toute confiance ». En intégrant la technologie de Chatterbox Labs dans sa matrice de produits existante, Red Hat espère aider les entreprises à promouvoir plus facilement la mise en œuvre de grands modèles et de l'IA générative tout en garantissant la sécurité et la conformité.
En termes de feuille de route du produit, Red Hat a déclaré que la technologie de Chatterbox Labs compléterait Red Hat AI 3 récemment publiée, ajoutant des capacités de test de sécurité et de gestion des risques plus complètes à la plate-forme.
La société a également réitéré sa ligne open source cohérente : à l'avenir, elle prévoit d'ouvrir progressivement la technologie d'IA pertinente acquise lors de cette acquisition afin d'élargir l'adoption par la communauté et de promouvoir l'innovation.
Red Hat a déclaré dans l'annonce que son modèle de longue date consiste d'abord à acquérir une technologie propriétaire, puis à promouvoir l'évolution technologique et la prospérité écologique grâce à l'open source. Cette transaction poursuivra également ce « modèle de développement open source standard ». Alors que la technologie de Chatterbox Labs est open source par étapes, ces outils critiques de sécurité de l'IA seront progressivement mis à la disposition de la communauté au sens large, permettant à davantage d'organisations de bénéficier de capacités de contrôle des biais, d'examen de la sécurité et de quantification des risques.