Francis de Souza sembra un professore. Calma. Misurato. Rassicurante.
Di recente a Los Angeles, nel caos di un evento di settore, il COO di Google Cloud ha offerto alcuni saggi consigli. “Ci sarà un periodo di transizione”, ha detto. “E poi penso che arriveremo in un posto migliore.”
Convenientemente.
Google sta attualmente annegando in questa transizione.
Il suo messaggio dovrebbe suonarti familiare. La sicurezza non è un adesivo che applichi sul cruscotto all’ultimo minuto. Deve essere cotto fin dal primo giorno. Soprattutto con l’intelligenza artificiale. Non lasciarlo ai tuoi dipendenti. Non fissarlo più tardi. Costruisci una piattaforma.
L’IA ombra è reale. I lavoratori utilizzano gli strumenti consumer senza consultare l’IT. Roba pericolosa. Hai bisogno di governance. Hai bisogno di tracce di controllo. Nessuna strategia sui dati? Allora la tua strategia di intelligenza artificiale è un castello di carte.
Ho fatto notare che sembrava una pubblicità. De Souza ha respinto.
Ha insistito sulla realtà multi-cloud. Potresti pensare di essere su una nuvola. Probabilmente ti sbagli. Le app SaaS vanno altrove. I partner utilizzano fornitori diversi. La sicurezza deve essere coerente ovunque. Attraverso i modelli. Oltre i confini.
Anche le minacce si sono spostate.
I vecchi modelli di difesa sono glaciali. In passato, il tempo che intercorreva tra una violazione e il passaggio successivo era di otto ore. Adesso sono 22 secondi.
Giusto. Secondi.
La tua superficie di attacco non è più solo il tuo firewall. Include i modelli. Le condutture che li alimentano. Le sollecitazioni. Gli agenti. Qualunque cosa.
C’è uno strano punto cieco che ha evidenziato. Gli agenti possono trovare dati dimenticati.
Pensaci. Quei vecchi server SharePoint del 2015? I controlli di accesso che nessuno ha toccato? Non avevano importanza perché nessun essere umano andava a cercare. Un agente AI che vaga per la rete li troverà. E metterà a nudo tutto.
Quindi, accelera la difesa. Incontra la velocità della macchina con la velocità della macchina.
Difesa agentica. Sistemi completamente autonomi che sorvegliano altri sistemi autonomi. Gli esseri umani supervisionano, piuttosto che giocare. Questo non è più un biglietto per i ragazzi dell’IT. Questo è il territorio del consiglio d’amministrazione.
Ancora. Ecco il problema.
Chi supervisiona i sorveglianti?
Non ci sono abbastanza persone qualificate. Le vulnerabilità si stanno moltiplicando più velocemente di quanto gli esperti riescano a risolverle. Lea Kissner di LinkedIn l’ha definita la “pocalisse degli insetti”. Pensa che non riusciremo a gestire la situazione per anni.
Nel frattempo, lo stesso fornitore della piattaforma sembra… confuso.
Il Register ha monitorato un problema specifico che coinvolge gli sviluppatori di Google Cloud. All’improvviso, le loro fatture salirono alle stelle fino a cinque cifre. Le chiamate API non autorizzate colpiscono il modello Gemini.
A prima vista non erano cattivi attori. Queste erano chiavi API. Chiavi destinate a Google Maps. Chiavi pubbliche secondo le istruzioni di Google. Quindi, Google ha modificato l’ambito di tali chiavi. In silenzio. All’improvviso potrebbero accedere a costosi modelli di intelligenza artificiale.
Rod Danan, alla guida di Prentus, ha visto il suo conto superare i 10.000 dollari in trenta minuti. Isuru Fonseka a Sydney si è svegliato con una banconota da 18.000 dollari, pensando di avere un limite massimo. Lo ha fatto.
Solo che i sistemi automatizzati di Google hanno visto la sua cronologia e hanno aggiornato il suo massimale. Fino a $ 100.002. Nessun consenso esplicito richiesto. Solo un algoritmo che decide quanto vali.
Google li ha rimborsati dopo la copertura stampa. Buone pubbliche relazioni.
Ma la politica resta. Google si rifiuta di modificare la logica di aggiornamento automatico del livello. Danno priorità al mantenimento delle luci accese piuttosto che al rispetto del limite di budget dichiarato dall’utente.
E se ti accorgessi del furto e cercassi di fermarlo?
Non trattenere il respiro.
La società di sicurezza Aikido ha riscontrato un ritardo terrificante. Anche se uno sviluppatore revoca immediatamente una chiave API compromessa, quella chiave funzionerà per altri 23 minuti.
Ventitré minuti.
Gli aggressori possono drenare i dati in quella finestra. Tirano conversazioni memorizzate nella cache. Rubano file. In alcuni minuti, oltre il 90% delle richieste che utilizzano la chiave “morta” vengono ancora portate a termine.
Perché esiste questo ritardo?
Il ricercatore di Aikido, Joseph Leon, ha trovato qualcosa di significativo. I nuovi formati di credenziali di Google sono veloci. Le credenziali dell’account di servizio vengono revocate entro cinque secondi. Le nuove chiavi Gemini con prefisso AQ richiedono un minuto.
Cinque secondi sono veloci. Un minuto è veloce.
Ma il vecchio formato standard resta indietro di qualche minuto. Non è un’impossibilità tecnica. Google lo fa altrove su larga scala.
“È una questione di priorità”, ha scritto Leon.
Leggi di nuovo il consiglio di de Souza. È un consiglio valido. La sicurezza deve essere centrale. La governance deve essere severa.
Ma c’è una disconnessione. La piattaforma predica una cosa mentre ne pratica un’altra. Il divario tra ciò che Google prescrive per la sicurezza e la lentezza con cui i propri sistemi si adattano per revocare una semplice chiave è ampio.
La consapevolezza aiuta. Ma fidarsi?
Forse non ancora.
