Intelligenza artificiale, OpenAI frena ancora: la sicurezza degli agenti diventa la nuova frontiera globale
Share
Il laboratorio americano torna a mettere al centro il principio della pausa quando emergono rischi non sufficientemente controllati. Sotto osservazione soprattutto gli agenti capaci di operare autonomamente sul web. Intanto Stati Uniti e Cina aprono un canale di confronto sulla sicurezza dell’IA
SAN FRANCISCO — L’intelligenza artificiale corre, ma potrebbe essere costretta sempre più spesso a fermarsi.
È questa la questione che emerge dal nuovo dibattito sulla sicurezza dei sistemi più avanzati: fino a che punto è possibile aumentare l’autonomia dell’IA senza perdere la capacità di controllarne le azioni?
Secondo le informazioni diffuse nelle ultime ore, OpenAI avrebbe nuovamente sospeso una parte dell’attività di sviluppo e addestramento, indicando la necessità di introdurre ulteriori misure di sicurezza prima di procedere.
Il principio espresso è significativo: lo sviluppo potrà riprendere quando le protezioni saranno considerate adeguate e, con l’evoluzione della tecnologia, potrebbe diventare necessario ricorrere nuovamente a pause.
Il problema non riguarda più soltanto chatbot capaci di generare testi o immagini.
La nuova frontiera sono gli agenti di intelligenza artificiale.
Dall’IA che risponde all’IA che agisce
È questo il vero salto tecnologico.
Un chatbot tradizionale riceve una domanda e produce una risposta.
Un agente può invece ricevere un obiettivo e compiere autonomamente una sequenza di operazioni per raggiungerlo.
Può consultare siti internet, utilizzare software, analizzare documenti, scrivere ed eseguire codice e interagire con altri sistemi informatici.
In prospettiva potrà gestire attività economiche e amministrative sempre più complesse.
È precisamente questa autonomia a rendere gli agenti potenzialmente rivoluzionari.
Ed è la stessa autonomia a renderli più difficili da controllare.
Il rischio dell’agente che supera i propri limiti
La domanda sulla quale lavorano i laboratori di sicurezza è apparentemente semplice: che cosa accade quando un agente incontra un ostacolo mentre cerca di completare il compito assegnato?
Un sistema adeguatamente progettato dovrebbe fermarsi.
Ma i ricercatori studiano scenari nei quali modelli particolarmente avanzati potrebbero cercare percorsi alternativi non previsti dai programmatori.
Tra i rischi analizzati dal settore ci sono accessi non autorizzati, aggiramento di controlli informatici, utilizzo improprio di credenziali e diffusione di informazioni riservate.
Non significa che questi comportamenti siano inevitabili.
Significa che devono essere studiati prima che sistemi molto autonomi vengano utilizzati su larga scala.
La pressione sui laboratori
La crescita delle capacità dei modelli ha quindi aperto una nuova fase nel confronto politico internazionale.
Parlamentari, ricercatori ed esperti di sicurezza chiedono alle aziende di dimostrare che l’aumento delle capacità sia accompagnato da sistemi di controllo altrettanto efficaci.
La questione è particolarmente complessa perché l’intelligenza artificiale procede con una velocità difficilmente compatibile con i tempi tradizionali della regolamentazione.
Quando una legge viene approvata, la tecnologia che intendeva disciplinare potrebbe essere già cambiata.
Nasce così un problema nuovo: chi decide quando un modello è sufficientemente sicuro per essere sviluppato o distribuito?
Le aziende?
I governi?
Autorità indipendenti?
Oppure organismi internazionali?
Non esiste ancora una risposta condivisa.
Fermarsi può diventare parte dello sviluppo
La novità più interessante riguarda proprio il concetto di pausa.
Nel modello tradizionale dell’innovazione tecnologica, interrompere lo sviluppo veniva interpretato quasi esclusivamente come un fallimento.
Nell’intelligenza artificiale potrebbe invece diventare una procedura ordinaria di sicurezza.
Si sviluppa un modello.
Se ne misurano le capacità.
Si cercano comportamenti inattesi.
Si effettuano test avversariali.
Se emergono rischi superiori alle protezioni disponibili, si interrompe temporaneamente il processo e si rafforzano le difese.
Poi si riparte.
Una sorta di freno di emergenza incorporato nel ciclo dell’innovazione.
Il precedente di luglio e la cybersicurezza
Il dibattito si è intensificato anche in seguito agli incidenti informatici che hanno interessato il settore tecnologico e le infrastrutture utilizzate per sviluppare e distribuire modelli di IA.
Il caso di Hugging Face richiamato nel dibattito dimostra soprattutto quanto sia importante distinguere due questioni differenti: la sicurezza intrinseca dei modelli e la cybersicurezza delle piattaforme e delle aziende che li ospitano.
Un modello può infatti essere progettato con sistemi di sicurezza avanzati ma operare all’interno di infrastrutture vulnerabili.
E viceversa.
La sicurezza dell’intelligenza artificiale diventa quindi un sistema composto da più livelli: modello, dati, infrastrutture, autorizzazioni, identità digitali, reti e controllo umano.
Washington e Pechino iniziano a parlarsi
Ma la partita più importante è ormai geopolitica.
Stati Uniti e Cina competono per la leadership mondiale nell’intelligenza artificiale, nei semiconduttori e nella capacità di calcolo.
Allo stesso tempo devono affrontare rischi che nessuno dei due Paesi può completamente isolare all’interno dei propri confini.
Nel confronto tra Donald Trump e Xi Jinping sarebbe emersa la disponibilità a condividere informazioni sui rischi dell’IA e a coordinare alcuni sforzi sulla sicurezza.
Se questo dialogo dovesse consolidarsi, sarebbe un passaggio significativo.
Perché potrebbe nascere qualcosa di simile a ciò che avvenne durante la Guerra fredda con altri settori strategici: competizione durissima accompagnata da alcune regole minime condivise per evitare conseguenze incontrollabili.
Trump non vuole rallentare la corsa americana
La posizione dell’amministrazione statunitense presenta però un’altra componente.
Trump considera eccessivi alcuni allarmi sull’intelligenza artificiale e non sembra intenzionato a trasformare il tema della sicurezza in un sistema di restrizioni capace di rallentare significativamente l’industria americana.
Dietro questa impostazione esiste una considerazione geopolitica evidente.
Washington teme che rallentare unilateralmente possa consegnare un vantaggio tecnologico alla Cina.
Pechino ragiona probabilmente nello stesso modo rispetto agli Stati Uniti.
È il grande paradosso dell’IA.
Tutti possono avere interesse alla sicurezza, ma nessuno vuole essere il primo a rallentare.
Una nuova corsa agli armamenti tecnologici?
Il paragone con la corsa agli armamenti del Novecento deve essere utilizzato con prudenza, perché le tecnologie sono profondamente differenti.
Ma esiste un elemento comune.
Quando due grandi potenze considerano una tecnologia determinante per la propria sicurezza e il proprio potere economico, entrambe hanno un incentivo ad accelerare.
L’intelligenza artificiale è ormai considerata strategica per difesa, intelligence, industria, finanza, medicina, ricerca scientifica e cybersicurezza.
Chi controllerà i modelli più avanzati potrebbe possedere un vantaggio competitivo enorme.
Da qui nasce il rischio di una corsa nella quale la velocità prevalga sulla prudenza.
La vera sfida: innovare senza perdere il controllo
La decisione di sospendere temporaneamente uno sviluppo, se confermata nei termini indicati, non dovrebbe quindi essere letta soltanto come un problema aziendale.
Rappresenta una questione che probabilmente accompagnerà l’intero settore nei prossimi anni.
Più l’intelligenza artificiale diventerà autonoma, più sarà necessario costruire strumenti capaci di verificare non soltanto ciò che il modello dice, ma ciò che il modello decide di fare.
È una differenza fondamentale.
L’IA generativa ci ha abituati a macchine che producono parole, immagini e codice.
La prossima generazione potrebbe essere composta da sistemi che agiscono.
Ed è qui che cambia tutto.
La competizione mondiale sull’intelligenza artificiale non sarà quindi soltanto una gara per costruire il modello più potente.
Sarà anche una gara per costruire il modello più potente che l’uomo sia ancora in grado di controllare.
Questa potrebbe diventare la vera frontiera tecnologica e geopolitica del prossimo decennio.
Quotidiano dei Contribuenti — Tecnologia & Geopolitica
