Intelligenza artificiale e sicurezza, la lettera aperta di 415 ricercatori: “Servono più ricerca e contenimenti robusti”

Le falle nei sistemi di contenimento dell’intelligenza artificiale (AI) possono essere lette in due modi: come un segnale dei limiti dell’allineamento dei modelli oppure come il risultato di pratiche di sicurezza informatica insufficienti. La lettera aperta firmata da 415 ricercatori e accademici non sceglie una sola spiegazione. Indica entrambe come dimensioni del problema e sostiene che per ridurre i rischi servano sia modelli dal comportamento più prevedibile sia ambienti di test e procedure più rigorosi.

Tra i firmatari ci sono alcuni nomi di spicco, a livello internazionale come Yoshua Bengio (Université de Montréal), Stuart J. Russell (Università della California, Berkeley), Yejin Choi (Università di Stanford), Toby Walsh (UNSW Sydney), Michael Wooldridge (Università di Oxford), Ron Deibert (Citizen Lab, Università di Toronto).
Nel documento risultano, inoltre, 11 firmatari italiani, tra cui Giorgio Giacinto (Università di Cagliari), Stefano Zanero (Politecnico di Milano), Battista Biggio, (Università di Cagliari), Fabio Roli, (Università di Genova).

Il documento parte da un punto preciso: alcuni modelli di AI avrebbero aggirato ambienti di test non adeguatamente protetti, compromettendo sistemi appartenenti a organizzazioni esterne. La lettera non descrive i singoli episodi, ma ne ricava una preoccupazione più ampia: se le pratiche di sviluppo e implementazione non cambiano, incidenti simili potrebbero ripetersi e produrre conseguenze più gravi per infrastrutture critiche esposte.

Allineamento e sicurezza informatica, due fronti complementari

Per i firmatari, l’allineamento dell’AI è rilevante perché mira a far sì che i modelli agiscano in modo prevedibile. La possibilità, però, che un modello superi i confini di un ambiente di test non può essere affrontata solo intervenendo sul suo comportamento. La lettera richiama anche la responsabilità delle organizzazioni: sistemi di contenimento poco solidi e procedure inadeguate possono esporre reti e sistemi esterni.

Il nodo è particolarmente delicato per i modelli dotati di capacità informatiche e connessi a Internet. Secondo i ricercatori, la quantità di azioni consentite all’interno di una sandbox deve essere commisurata alla capacità, ancora limitata, di prevedere se le azioni del modello possano causare un fallimento della sicurezza, per esempio in presenza di obiettivi non allineati. Più ampio è l’accesso concesso al modello, maggiore diventa l’importanza di controllare ciò che può fare e di valutare i rischi associati.

La prima raccomandazione: isolamento (airgapping) e contenimento ad alta affidabilità

La proposta più immediata riguarda le organizzazioni che sviluppano, testano o implementano modelli di AI con capacità informatiche. La lettera chiede loro di adottare subito sistemi di contenimento ad alta affidabilità e di procedere con cautela. Nella fase iniziale, la misura indicata è l’isolamento fisico dei modelli, tramite airgapping, cioè la disconnessione da Internet.

La raccomandazione riflette un principio prudenziale: finché non è possibile prevedere con sufficiente affidabilità il comportamento del modello, è necessario limitarne l’accesso all’esterno. L’airgapping viene presentato come una misura iniziale di sicurezza, non come l’unico possibile assetto per ogni sistema.
Il documento invita infatti a sviluppare e standardizzare approcci di allineamento e contenimento che possano consentire, in condizioni adeguate, un accesso più ampio fuori dalla sandbox.

Un organismo internazionale per standard e incidenti

Per affrontare questa sfida, i firmatari propongono di istituire un organismo internazionale, in consultazione con i governi e con esperti di AI e cybersicurezza. Il suo compito sarebbe definire, nell’interesse pubblico, le migliori pratiche per l’allineamento e il contenimento dei modelli, comprese le soluzioni che permettono una maggiore connettività rispetto all’isolamento fisico.

All’organismo dovrebbe inoltre essere affidato il compito di registrare e monitorare i fallimenti dei sistemi di contenimento. La lettera considera la condivisione delle informazioni una condizione per imparare dagli errori: quando un incidente si verifica perché il contenimento non ha funzionato, l’evento dovrebbe essere segnalato all’organismo competente e, in prospettiva, reso pubblico.

La trasparenza avrebbe una doppia funzione, secondo i firmatari: favorire la ricerca e l’apprendimento dagli incidenti, ma anche rendere le organizzazioni responsabili delle proprie pratiche. Il documento non presenta una soluzione tecnica già definita. Delinea invece un’agenda che combina contenimento più rigoroso, ricerca sulla sicurezza dell’AI, standard condivisi e segnalazione degli incidenti. La sfida è a dir poco storica, riconoscono i ricercatori, e richiederà una reale collaborazione tra le comunità dell’intelligenza artificiale e quelle della sicurezza informatica.

The post Sicurezza dell’AI, 400 ricercatori da tutto il mondo chiedono sandbox più robuste e trasparenza sugli incidenti appeared first on Key4biz.

https://www.key4biz.it/sicurezza-dellai-400-ricercatori-da-tutto-il-mondo-chiedono-sandbox-piu-robuste-e-trasparenza-sugli-incidenti/590962/