Google aggiunge due varianti di TPU per l'AI sicura e a contesto lungo

Google starebbe introducendo due nuove versioni dei propri chip per l'intelligenza artificiale, i tensor processing unit, secondo quanto riportato da Bloomberg [106]. I due chip si chiamano TPU 8tx e TPU 8i Max. La notizia arriva dalla stampa e non da un annuncio ufficiale dell'azienda, un dettaglio da tenere presente nel valutare tempi e portata del lancio.

Le due varianti sarebbero orientate a esigenze diverse: una alla sicurezza, l'altra al contesto lungo, cioè alla capacità di un modello di tenere in memoria porzioni molto estese di testo o dati durante l'elaborazione [106]. È una distinzione che riflette come si stanno specializzando i carichi di lavoro dell'AI: non più un solo tipo di calcolo, ma famiglie di compiti con requisiti opposti.

I TPU sono i processori progettati da Google per il proprio infrastruttura di calcolo, alternativi alle GPU nella corsa alla capacità necessaria per addestrare e servire i modelli [106]. A parlare delle nuove versioni è Amin Vahdat, chief technologist per l'infrastruttura AI dell'azienda, secondo il resoconto di Bloomberg.

Il punto da chiarire è cosa cambi per chi usa i servizi cloud di Google: se le nuove TPU restino un vantaggio interno o diventino offerta commerciale, e con quali tempi. Cosa resta aperto: specifiche tecniche, disponibilità e conferma ufficiale da parte dell'azienda, che al momento non arriva dai titoli [106].