Résumé :
Google a récemment annoncé l'expansion de sa gamme de puces d'intelligence artificielle et le lancement de deux nouvelles unités de traitement tensoriel (TPU) spécialement conçues pour différents scénarios d'application, nommées TPU 8tx et TPU 8i Max. Ces deux produits sont développés sur la base de l'architecture TPU de huitième génération existante de Google et sont conçus pour répondre aux besoins croissants des entreprises clientes en matière de sécurité des données et de tâches d'inférence d'intelligence artificielle à grande échelle.
Parmi eux, TPU 8tx se concentre sur les secteurs ayant des exigences extrêmement élevées en matière de protection de la vie privée et de sécurité des données, notamment les agences gouvernementales, les services financiers, la santé médicale et d'autres domaines strictement réglementés. Google a déclaré que le produit introduit des capacités informatiques confidentielles pour protéger les poids des modèles et les informations sensibles pendant le traitement des données afin d'éviter toute exposition à un accès non autorisé.
Pour atteindre cet objectif, le TPU 8tx fonctionne en conjonction avec les processeurs AMD et intègre profondément les fonctions de cryptage au niveau matériel. Contrairement aux solutions traditionnelles qui nécessitent de déchiffrer les données en mémoire avant d'effectuer des calculs, la nouvelle solution peut améliorer considérablement la sécurité lors du traitement des données sensibles et répondre aux besoins des entreprises en matière de déploiement de systèmes d'IA de haute sécurité.
Un autre nouveau produit, TPU 8i Max, est spécialement conçu pour les applications de grands modèles qui nécessitent des fenêtres contextuelles extrêmement longues. Ces dernières années, avec le développement rapide de l'intelligence artificielle générative et de la technologie des agents d'IA, de plus en plus de modèles doivent traiter des quantités massives de texte, de code ou de données en même temps, imposant ainsi des exigences plus élevées en matière de capacité de mémoire et de performances d'inférence.
Selon les rapports, le TPU 8i Max peut prendre en charge des fenêtres contextuelles plus longues en améliorant la puissance de calcul et les ressources de mémoire, permettant ainsi aux modèles d'intelligence artificielle d'analyser davantage de contenu en une seule requête. Cette capacité est particulièrement importante pour des scénarios tels que la génération de codes complexes, le raisonnement mathématique, la recherche scientifique et le développement de médicaments. Cela peut aider le modèle à conserver plus d'informations de base et à améliorer la qualité de l'exécution des tâches.
Amin Wahdat, responsable de l'infrastructure IA de Google, a déclaré que ces deux puces ne sont pas de nouveaux produits architecturaux, mais des modèles dérivés basés sur le TPU existant de huitième génération, spécialement optimisés pour répondre aux besoins des clients. La société estime qu'au lieu de développer une puce à usage général qui tente de couvrir tous les besoins du marché, il est préférable de créer plusieurs versions professionnelles pour des scénarios spécifiques afin d'offrir aux utilisateurs une valeur plus élevée.
Plus tôt cette année, Google a lancé les TPU 8t et TPU 8i dans la série TPU de huitième génération. Le premier est destiné aux tâches de formation de modèles à grande échelle, tandis que le second est optimisé pour l'inférence à faible latence. Avec l'ajout du TPU 8tx et du TPU 8i Max à la gamme, la famille TPU de huitième génération de Google s'est étendue à quatre produits, couvrant plusieurs segments tels que la formation de modèles, l'inférence sécurisée, l'inférence à faible latence et l'inférence de contexte ultra-long.
Les analystes ont souligné que cette nouvelle version de produit reflète le fait que l'infrastructure d'intelligence artificielle passe d'une simple recherche d'échelle de puissance de calcul à une réponse à des besoins commerciaux plus réels. À mesure que les agents d’IA, l’IA générative au niveau de l’entreprise et les modèles à contexte long deviennent de plus en plus populaires, la sécurité, la capacité de mémoire et l’efficacité du raisonnement deviennent de nouveaux enjeux concurrentiels après la puissance de calcul.
Google a initialement développé le TPU principalement pour prendre en charge ses propres services d'intelligence artificielle. Il est désormais ouvert à la location à des clients externes, dans le cadre d'une part importante de son activité de cloud computing. Actuellement, le TPU est devenu l'une des plates-formes informatiques d'IA les plus importantes, outre les GPU NVIDIA, et est utilisé par de nombreuses grandes sociétés d'intelligence artificielle et clients de cloud computing pour former et déployer des modèles avancés.
Avec le lancement de ce nouveau modèle, Google espère renforcer encore sa compétitivité sur le marché des infrastructures d'intelligence artificielle et fournir un support matériel sous-jacent plus ciblé pour les agents d'IA de nouvelle génération et les systèmes de raisonnement complexes.
Commentaires