Google et marvell : course effrénée pour dominer l'inférence ia
Une alliance stratégique entre Google et Marvell Technology pourrait bien redéfinir le paysage de l'intelligence artificielle. La tech giant américaine explore activement deux nouveaux chips, conçus pour booster l'efficacité de ses modèles d’IA.
Un besoin urgent de puissance de calcul
L’inférence, cette phase opérationnelle où un modèle d’IA appliqué s’exécute de manière autonome, est en train de devenir le cœur battant de l’IA. Google, déjà maître dans l’entraînement de ces modèles grâce à ses TPU (Tensor Processing Units), cherche à optimiser cette phase cruciale pour traduire les résultats de l’entraînement en valeur ajoutée concrète, en temps réel.
L'objectif ? Transformer la théorie en action, en fournissant des prédictions et des conclusions pertinentes à partir de nouvelles données, en un temps record. C'est là que Marvell Technology entre en jeu, apportant son expertise dans la fabrication de semi-conducteurs.
Deux chips, deux approches
Cette collaboration se traduira par le développement de deux solutions distinctes. La première, un chip de mémoire, sera optimisée pour fonctionner en tandem avec la TPU de Google, améliorant ainsi la bande passante et la vitesse de traitement. La seconde, une nouvelle TPU spécialement conçue, se concentrera sur les tâches d'inférence, repoussant les limites de la performance.
Il s'agit d'un renforcement significatif de l'écosystème existant, qui comprend déjà des partenaires tels que Broadcom, MediaTek et TSMC. L'Ironwood, septième génération de TPU de Google, déjà disponible depuis novembre, représente une avancée majeure : dix fois plus performant que les TPU v5p et plus de quatre fois plus rapide que la TPU v6e pour l'entraînement et l'inférence. Ce 'superpod', composé de 9 216 chips interconnectés via la technologie ICI de Google – une interconnexion à 9,6 Tb/s permettant une mémoire partagée de 1,77 Pétaoctets - illustre parfaitement cette ambition.
La concurrence se renforce
L’initiative de Google ne se limite pas à ses propres ambitions. Microsoft, par exemple, a dévoilé Maia 200, un accélérateur d'IA offrant une performance FP4 trois fois supérieure à celle du Amazon Trainium de troisième génération et une performance FP8 surpassant la TPU de septième génération de Google. La course à l'optimisation de l'inférence est donc enclenchée, et l'avenir de l'IA dépendra en grande partie de ces avancées technologiques.
En fin de compte, cette collaboration entre Google et Marvell Technology représente un pas de géant vers une IA plus rapide, plus efficace et, par conséquent, plus accessible. La capacité de Google à intégrer jusqu'à 9 216 chips dans un 'superpod' témoigne de la puissance de cette stratégie.