Bay AI esordisce con 50 milioni per controllare le azioni degli agenti

La startup israeliana Bay AI ha annunciato il proprio lancio con 50 milioni di dollari di finanziamenti [8]. Il prodotto serve a esaminare ogni azione che un agente di intelligenza artificiale tenta di compiere prima che venga effettivamente eseguita [8]. È un modello di controllo preventivo, non di rilevamento a posteriori.

Il software tiene traccia degli agenti che lavorano all'interno di un'azienda, indipendentemente da dove siano ospitati [8]. La tesi è che gli agenti siano rimasti fuori dalla produzione soprattutto per la mancanza di strumenti capaci di dire no prima che un'azione sbagliata produca effetti su sistemi reali.

Il finanziamento da 50 milioni arriva in un momento in cui il mercato della sicurezza per l'AI si sta popolando di proposte simili: controllare gli agenti, limitare i loro permessi, fermarli in caso di comportamento anomalo. Bay si posiziona sul punto più delicato, quello del consenso all'azione [8].

Restano da capire la copertura reale della piattaforma, i tempi di integrazione con i sistemi aziendali e il modo in cui il prodotto decide cosa autorizzare. Il corpus non indica quali clienti abbiano adottato Bay né come si comporti con agenti che operano su più fornitori cloud contemporaneamente [8].

Per le aziende che sperimentano agenti su processi produttivi, il nodo è sempre lo stesso: dare autonomia senza concedere un accesso illimitato. Una startup finanziata per costruire quel filtro segnala che il problema è sentito, ma la prova arriverà solo con le prime installazioni reali [8].