Amazon travaille dur pour défendre sa position de leader dans le domaine du cloud computing. Tout en mettant à niveau ses puces cloud auto-développées et en lançant la version Amazon de GPT, un chatbot d'intelligence artificielle (IA), il approfondit également sa coopération avec NVIDIA, en lançant de nouveaux services basés sur les puces NVIDIA et en développant conjointement des superordinateurs avec NVIDIA.

Dave Brown, vice-président d'AWS, a déclaré qu'en concentrant la conception de puces auto-développées sur les charges de travail réelles qui sont importantes pour les clients, AWS peut leur fournir l'infrastructure cloud la plus avancée. Le Graviton 4 lancé cette fois est la quatrième génération de puces en cinq ans. À mesure que l'intérêt des gens pour l'IA générative augmente, la puce d'IA de deuxième génération Trainium 2 aidera les clients à former leurs propres modèles d'apprentissage automatique plus rapidement, à moindre coût et avec une plus grande efficacité énergétique.

Les performances informatiques du Graviton4 sont jusqu'à 30 % supérieures à celles de la génération précédente

Le mardi 28 novembre, heure de l'Est, AWS, la société de cloud computing d'Amazon, a annoncé le lancement d'une nouvelle génération de puces AWS auto-développées. Parmi eux, les performances informatiques de la puce à usage général Graviton 4 sont jusqu'à 30 % supérieures à celles de la génération précédente Graviton 3, avec une augmentation de 50 % des cœurs et une augmentation de 75 % de la bande passante mémoire, offrant ainsi les performances de coût et d'utilisation d'énergie les plus élevées sur le service d'hébergement de serveur cloud Amazon Amazon Elastic Compute Cloud (EC2).

Graviton4 améliore également la sécurité en chiffrant entièrement toutes les interfaces matérielles physiques à haut débit. AWS a déclaré que Graviton 4 serait appliqué aux instances Amazon EC2R8g à mémoire optimisée, permettant aux clients d'améliorer l'exécution de bases de données hautes performances, de caches en mémoire et de charges de travail d'analyse Big Data. Les instances R8g offrent des tailles d'instance plus grandes, avec jusqu'à trois fois plus de processeurs virtuels et trois fois plus de mémoire que les instances R7g de la génération précédente.

Des ordinateurs exécutant Graitons4 seront disponibles dans les prochains mois. AWS a déclaré qu'au cours des cinq années environ écoulées depuis le lancement du projet Garviton, plus de 2 millions de processeurs Garviton ont été produits et que les 100 principaux utilisateurs d'AWSEC2 ont choisi d'utiliser Graviton.


Trainium2 est quatre fois plus rapide dans la formation de modèles comportant des milliards de paramètres

Autre nouveauté d'AWS, la puce IA nouvelle génération Trainium2 est quatre fois plus rapide que la génération précédente Trainium1. Il sera capable de déployer jusqu'à 100 000 puces dans EC2 UltraCluster, permettant aux utilisateurs de former des modèles de base (PM) et des modèles de langage étendus (LLM) avec des milliards de paramètres en peu de temps, tout en augmentant la consommation d'énergie jusqu'à deux fois par rapport à la génération précédente.

Trainium2 sera utilisé sur les instances Amazon EC2Trn2, avec 16 puces Trainium incluses dans une seule instance. Les instances Trn2 sont conçues pour aider les clients à augmenter le nombre d'applications de puces jusqu'à 100 000 puces Trainium2 dans la nouvelle génération EC2 UltraCluster. Ils sont connectés au réseau pétabit AWS Elastic Fabric Adapter (EFA) et fournissent une puissance de calcul allant jusqu'à 65 exaflops.

AWS a déclaré que Trainium2 serait utilisé pour prendre en charge de nouveaux services à partir de l'année prochaine.


DGX Cloud, premier client majeur de la version améliorée de GraceHopper, utilise GH200NVL32, le GPU le plus rapide pour piloter le supercalcul IA

En plus des puces auto-développées, AWS a également annoncé mardi, lors de sa conférence annuelle re:Invent, qu'elle étendrait sa coopération stratégique avec NVIDIA pour fournir l'infrastructure, les logiciels et les services les plus avancés pour aider les clients à générer une innovation générative en matière d'IA.

AWS deviendra le premier fournisseur de services cloud à utiliser la nouvelle superpuce multi-nœuds NVIDIA H200 GraceHopper de technologie NVLink sur le cloud. En d’autres termes, AWS sera le premier client majeur du GraceHopper mis à niveau.

La plate-forme multi-nœuds H200NVL32 de NVIDIA utilise 32 puces GraceHopper avec les technologies NVLink et NVSwitch dans une seule instance. La plateforme sera utilisée sur les instances Amazon EC2 connectées à Amazon Network EFA et est alimentée par une virtualisation avancée (AWS Nitro System) et des clusters ultra-larges (Amazon EC2 UltraClusters), permettant aux clients communs d'Amazon et de Nvidia d'étendre le déploiement de milliers de puces H200.

NVIDIA et AWS hébergeront conjointement la formation IA de NVIDIA en tant que service DGX Cloud sur AWS. Ce sera le premier DGX Cloud à utiliser le GH200NVL32, offrant ainsi aux développeurs la plus grande mémoire partagée dans une seule instance. Le cloud DGX d'AWS améliorera la formation de l'IA générative de pointe et des grands modèles de langage avec plus de 1 000 milliards de paramètres.

Nvidia et AWS travaillent ensemble sur un projet appelé Ceiba pour concevoir le supercalculateur d'IA alimenté par GPU le plus rapide au monde, un système à grande échelle utilisant les interconnexions GH200NVL32 et Amazon EFA. Il s'agit d'un superordinateur équipé de 16 384 superpuces GH200, avec une puissance de traitement IA de 65exaflops. NVIDIA l'utilisera pour piloter la prochaine vague d'innovation en matière d'IA générative.


La version préliminaire du robot client d'entreprise Amazon Q est en ligne pour aider à développer des applications sur AWS

En plus des puces et des services cloud, AWS a également lancé une version préliminaire de son propre chatbot IA appelé Amazon Q. Il s'agit d'un nouvel assistant numérique alimenté par une technologie d'IA générative qui fonctionne en fonction de l'activité des entreprises clientes, les aidant à rechercher des informations, à écrire du code et à examiner les indicateurs commerciaux.

Q a reçu une formation au sein d'AWS sur le code et la documentation pouvant être utilisés par les développeurs dans le cloud AWS.

Les développeurs peuvent utiliser Q pour créer des applications sur AWS, rechercher les meilleures pratiques, corriger les erreurs et obtenir de l'aide pour rédiger de nouvelles fonctionnalités pour l'application. Les utilisateurs peuvent interagir avec Q via des questions-réponses conversationnelles pour acquérir de nouvelles connaissances, rechercher les meilleures pratiques et comprendre comment créer des applications sur AWS sans détourner leur attention de la console AWS.

Q sera également ajouté aux logiciels d'intelligence d'entreprise d'Amazon, aux programmes destinés aux employés des centres d'appels et à la gestion logistique. AWS a déclaré que les clients peuvent personnaliser Q en fonction des données de l'entreprise ou des profils personnels.

La fonctionnalité de questions et réponses conversationnelles Q est actuellement en préversion dans toutes les régions où AWS d'entreprise est disponible.