Lancement4 sources

Google lance deux nouvelles puces IA pour protéger les données et accélérer les agents

Next · Par Sébastien Gavois · il y a 2 h

L’essentiel · rédigé à partir de 4 sources

Google présente deux nouveaux systèmes de sa huitième génération de TPU : le TPU 8tx et le TPU 8i Max.
Le TPU 8tx protège les données et les poids des modèles pendant l’inférence grâce à une sécurité intégrée au matériel, et vise l’inférence confidentielle.
Le TPU 8i Max associe deux puces sur un même boîtier pour augmenter la puissance de calcul et la bande passante mémoire, notamment pour les agents IA et les traitements à long contexte.

Pourquoi c’est important

Pour les développeurs qui déploient des modèles d’IA, ces puces ciblent directement l’inférence, avec une sécurité matérielle pour les données sensibles et plus de capacité pour les agents IA. Elles pourraient devenir une alternative aux GPU de Nvidia dans les infrastructures d’entreprise.

Qui est concerné

Équipes qui exécutent des modèles d’IA en inférence sur l’infrastructure de Google
Entreprises traitant des données confidentielles avec des modèles d’IA

Des fois, x2 ça ne fait que x1,33 Google continue de se renforcer sur l’entrainement et l’inférence des IA génératives. Deux nouveaux systèmes TPU sont annoncés : un premier pour sécuriser les calculs et assurer la confidentialité des données, un second pour augmenter la densité…

Lire l’article complet sur next.ink ↗