Google aggiunge TPU 8tx e 8i Max alla sua ottava generazione

Google ha aggiunto due nuovi modelli alla sua ottava generazione di TPU, i chip progettati internamente per l'intelligenza artificiale: TPU 8tx, dedicato all'elaborazione di dati riservati, e TPU 8i Max, pensato per contesti molto lunghi [51]. L'annuncio è stato diffuso anche sul blog aziendale [63].

Secondo Google, le due varianti rispondono a problemi che emergono con la diffusione degli agenti AI autonomi, cioè sistemi che pianificano ed eseguono più passaggi senza intervento umano: da un lato la sicurezza dei dati trattati, dall'altro la quantità di memoria necessaria a tenere il contesto di una conversazione o di un'attività complessa [51].

Insieme ai chip, l'azienda ha annunciato l'apertura del software per le TPU e nuove funzioni per ridurre lo spreco di risorse di calcolo [51]. È un passaggio rilevante perché il software è storicamente il punto debole delle architetture alternative alle GPU Nvidia: un ecosistema aperto abbassa la barriera per chi vuole provarle.

La mossa si colloca in un mercato in cui la domanda di capacità di calcolo per l'AI supera l'offerta e i costi energetici dei data center sono sotto esame [102]. Avere acceleratori differenziati per tipo di carico consente di allocare la macchina giusta al lavoro giusto, evitando di usare la configurazione più costosa per ogni attività.

Non è noto dalle fonti quando le due nuove TPU saranno disponibili per i clienti cloud né con quali prezzi. Google non ha indicato quali partner le stiano già usando: le informazioni disponibili riguardano le caratteristiche annunciate e l'apertura del software [51][63].