Après des années de production de puces capables à la fois de former des modèles d’intelligence artificielle et de gérer des travaux d’inférence, Google sépare ces tâches en processeurs distincts, son dernier effort pour prendre en charge Nvidia dans l’IA matérielle.

Google a annoncé mercredi qu’il effectuait ce changement pour la huitième génération de son unité de traitement tensoriel, ou TPU. Les deux puces seront disponibles plus tard cette année.

« Avec l’essor des agents IA, nous avons déterminé que la communauté bénéficierait de puces individuellement spécialisées pour les besoins de formation et de service », a déclaré Amin Vahdat, vice-président senior de Google et technologue en chef pour l’IA et l’infrastructure, dans un texte de blog.

En mars, Nvidia a annoncé le prochain silicium qui permettra aux modèles de répondre rapidement aux questions des utilisateurs, grâce à la technologie obtenue dans son Accord de 20 milliards de dollars avec démarrage de la puce Groq. Google est un client important de Nvidia, mais propose les TPU comme alternative aux entreprises qui utilisent ses services cloud.

La plupart des plus grandes entreprises technologiques du monde poursuivent le changement de semi-conducteurs personnalisés pour l’intelligence artificielle afin de maximiser l’efficacité et de pouvoir ainsi créer des cas d’utilisation spécialisés. Pomme a inclus des composants d’IA de moteur neuronal dans ses puces iPhone internes depuis des années. Microsoft a annoncé un puce IA de deuxième génération en janvier. La semaine dernière, Méta a dit que ça fonctionnait avec Broadcom développer plusieurs versions de processeurs d’IA.

Google a été le premier à suivre la tendance. En 2015, l’entreprise a commencé à utiliser des processeurs qu’elle avait conçus pour exécuter des modèles d’IA et a commencé à les louer à des clients cloud en 2018. Amazone Web Services a annoncé la puce Inferentia pour gérer les requêtes d’IA en 2018et a dévoilé le Processeur Trainium pour la formation de modèles d’IA en 2020.

Les analystes de DA Davidson estimaient en septembre que l’activité TPU, couplée au groupe Google DeepMind AI, vaudrait environ 900 milliards de dollars.

Aucun des géants de la technologie ne remplace Nvidia, et Google ne compare même pas les performances de ses nouvelles puces avec celles du leader des puces IA. Google a déclaré que la puce de formation permet des performances 2,8 fois supérieures à celles du TPU Ironwood de septième génération, annoncé en novembrepour le même prix, tandis que les performances sont 80 % meilleures pour le processeur d’inférence.

Nvidia a annoncé que c’était à venir Groq3LPU le matériel s’appuiera sur de grandes quantités de mémoire vive statique, ou SRAM, utilisée par Cerebras, un fabricant de puces IA qui déposé à rendre public plus tôt ce mois-ci. La nouvelle puce d’inférence de Google, baptisée TPU 8i, s’appuie également sur la SRAM. Chaque puce contient 384 mégaoctets de SRAM, soit le triple de la quantité d’Ironwood.

L’architecture est conçue « pour fournir le débit massif et la faible latence nécessaires pour exécuter simultanément des millions d’agents de manière rentable ». Sundar PichaiPDG de la société mère de Google, Alphabet, a écrit dans un reportage de blog.

L’adoption des puces IA de Google s’accélère. Citadel Securities a construit un logiciel de recherche quantitative qui s’appuie sur les TPU de Google, et les 17 laboratoires nationaux du Département américain de l’énergie utilisent un logiciel de co-scientifique en IA construit sur les puces, a déclaré Google. Anthropic s’est engagé à utiliser plusieurs gigawatts valeur des TPU Google.

MONTRE: Broadcom accepte un accord étendu sur les puces avec Google et Anthropic