Google amplia il portafoglio hardware con due TPU specializzate

Google ha presentato due nuove tensor processing unit, i chip proprietari con cui l'azienda addestra e serve i propri modelli di intelligenza artificiale. Le due unità allargano il portafoglio di acceleratori verso casi d'uso che finora restavano fuori dal perimetro delle generazioni precedenti [27]. Non si tratta quindi di un semplice aggiornamento di prestazioni, ma di una differenziazione per tipo di lavoro.

Il primo caso d'uso indicato è l'addestramento di modelli confidenziali, cioè di quei carichi in cui i dati e i pesi del modello non devono essere accessibili nemmeno all'infrastruttura che li elabora [27]. Il secondo riguarda una maggiore capacità di memoria, necessaria per tenere in memoria porzioni più grandi di modello o di dati durante l'elaborazione [27].

La scelta di specializzare i chip riflette una tendenza del settore: invece di un acceleratore unico per tutto, si costruiscono unità ottimizzate per singole fasi della pipeline, dall'addestramento all'inferenza fino ai contesti con requisiti di riservatezza. Google progetta questi chip internamente e li usa nella propria infrastruttura cloud, il che le consente di adattarli ai carichi prima dei clienti esterni.

I titoli disponibili non riportano specifiche tecniche, nomi commerciali dei due chip, disponibilità per i clienti cloud né prezzi. Non è quindi possibile confrontare le nuove unità con le generazioni precedenti o con gli acceleratori concorrenti. Manca anche l'indicazione di quando questi chip entreranno in produzione su larga scala.

Il punto da seguire è l'accesso: se e quando le due TPU saranno offerte tramite il cloud, le aziende che addestrano modelli su dati sensibili avranno un'opzione in più rispetto alle soluzioni che richiedono di affidare i dati a infrastrutture esterne. Per ora resta un annuncio di portafoglio, non un prodotto acquistabile.