Lancement4 sources

Google dégaine les puces TPU 8tx et 8i Max face aux GPU de Nvidia

L’essentiel · rédigé à partir de 4 sources

Google présente deux nouveaux systèmes de sa huitième génération de TPU : le TPU 8tx et le TPU 8i Max.
Le TPU 8tx protège les données et les poids des modèles pendant l’inférence grâce à une sécurité intégrée au matériel, et vise l’inférence confidentielle.
Le TPU 8i Max associe deux puces sur un même boîtier pour augmenter la puissance de calcul et la bande passante mémoire, notamment pour les agents IA et les traitements à long contexte.

Pourquoi c’est important

Pour les développeurs qui déploient des modèles d’IA, ces puces ciblent directement l’inférence, avec une sécurité matérielle pour les données sensibles et plus de capacité pour les agents IA. Elles pourraient devenir une alternative aux GPU de Nvidia dans les infrastructures d’entreprise.

Qui est concerné

Équipes qui exécutent des modèles d’IA en inférence sur l’infrastructure de Google
Entreprises traitant des données confidentielles avec des modèles d’IA

Un double assaut technique vient bousculer le marché des composants IA avec deux accélérateurs taillés sur mesure pour les besoins des entreprises. Alphabet passe la vitesse supérieure et entend bien transformer l'essai face aux déboires de Nvidia.

Lire l’article complet sur generation-nt.com ↗