IBM a développé une nouvelle technologie optique capable d'entraîner des modèles d'IA à la vitesse de la lumière tout en économisant d'énormes quantités d'énergie. La société affirme qu’en appliquant sa technologie révolutionnaire aux centres de données, elle peut économiser de l’énergie équivalente à la consommation annuelle d’énergie de 5 000 foyers américains lors de la formation de modèles d’IA.
La société a expliqué que même si le centre de données est connecté au monde extérieur via des câbles à fibres optiques, en interne, ils utilisent toujours des fils de cuivre. Ces fils connectent les accélérateurs GPU, qui passent beaucoup de temps inactifs en attendant les données d'autres appareils, consommant de l'énergie et augmentant les coûts.
Commentant le développement, Dario Gil, vice-président senior et directeur de la recherche chez IBM, a déclaré :
"Parce que la génération de l'IA nécessite plus d'énergie et de puissance de traitement, les centres de données doivent continuer à évoluer - et les optiques co-packagées peuvent assurer la pérennité de ces centres de données. Grâce à cette avancée, les futures puces communiqueront comme des câbles à fibres optiques transportant les données vers et depuis les centres de données, ouvrant la voie à une nouvelle ère de communications plus rapides et plus durables, capables de gérer les futures charges de travail de l'IA. "
IBM a présenté son nouveau prototype d'optique co-packagée (CPO) dans un document technique. En augmentant considérablement la bande passante du centre de données, les temps d'arrêt du GPU peuvent être minimisés, accélérant ainsi le traitement de l'IA.
IBM explique que le temps de formation au modèle LLM (Large Language Model) peut être réduit de trois mois à trois semaines. Dans le même temps, l’amélioration de l’efficacité énergétique réduira la consommation d’énergie et réduira les coûts associés à la formation LLM.