AI di frontiera, Nadella chiede un freno di emergenza: “Ogni modello può essere compromesso”

Un freno di emergenza come quello di un treno: qualcuno deve poterlo azionare quando la corsa prende una direzione pericolosa. È la metafora scelta da Satya Nadella, presidente e amministratore delegato di Microsoft, per spiegare come gestire i modelli di intelligenza artificiale (AI) o super intelligenza (SI) più avanzati. Le organizzazioni che li utilizzano, sostiene, dovrebbero considerarli potenziali minacce interne e partire dal presupposto che possano essere sempre compromessi. Per questo, “una persona autorizzata”, ha specificato Nadella, deve poter mettere in pausa o spegnere il modello anche mentre sta eseguendo un’attività.

La preoccupazione non è che ogni sistema sia deliberatamente ostile, si legge su qz.com, ma il rischio, nella visione di Nadella, nasce dal potere operativo che questi strumenti stanno acquisendo. Un modello collegato a dati, applicazioni e sistemi aziendali può prendere iniziative con conseguenze concrete: elaborare informazioni, avviare processi o interagire con infrastrutture digitali. Se sbaglia, viene manipolato o agisce fuori dai limiti previsti, come già accaduto, l’impatto può superare la singola risposta errata,coinvolgendo servizi, imprese e persone.

“Pensatelo come un freno di emergenza. Una persona autorizzata dovrebbe sempre essere in grado di mettere in pausa o spegnere un modello a metà di un’operazione”, ha dichiarato Nadella.

Perché i modelli di frontiera preoccupano

A complicare il controllo c’è la natura dei modelli più potenti: il loro comportamento non è sempre riconducibile con precisione a un determinato input o a una specifica configurazione dei parametri. Per Nadella, quindi, non basta accettare o respingere le risposte di una “scatola nera” e affidarsi alle rassicurazioni di chi l’ha sviluppata. “Occorre costruire sistemi circoscritti”, in cui sia possibile osservare le azioni dell’AI, metterne alla prova i limiti e mantenere il controllo su ciò che può fare.

“Non possiamo trattare la Super Intelligenza come un insieme di scatole – ha spiegato il CEO di Microsoft – e semplicemente accettare o rifiutare i suoi consigli, le sue risposte e le sue azioni. Dobbiamo costruire sistemi circoscritti di cui possiamo osservare il comportamento, testare i limiti e controllare sempre le azioni”.

Il pulsante basta? Le responsabilità da chiarire

Il freno di emergenza è il simbolo più immediato di questo approccio, ma non l’unica misura proposta. I permessi di accesso e le azioni consentite dovrebbero essere definiti al di fuori del modello: l’AI non dovrebbe poter ampliare da sola il proprio raggio d’azione. Le attività rilevanti andrebbero registrate in log leggibili e resistenti alle manomissioni; le decisioni ad alto rischio dovrebbero poter contare su più modelli, invece che su un unico sistema. Nadella indica inoltre la necessità di test indipendenti e continuativi e invita le aziende a condividere i dettagli degli incidenti, così che altri possano rafforzare le proprie difese.

“Il sistema di super intelligenza più affidabile non sarà quello con il modello di cui ci fidiamo di più – ha precisato Nadella – sarà quello che ci permetterà di fidarci meno del modello”.

Controlli esterni, registri e test indipendenti

La metafora del freno, tuttavia, apre una domanda pratica: chi lo aziona e con quali garanzie? Per essere efficace, il comando deve restare in mano a persone autorizzate e funzionare anche quando il modello non collabora o quando il problema riguarda i sistemi che lo circondano. Deve inoltre essere chiaro chi risponde delle decisioni e in base a quale policy: l’azienda che sviluppa l’AI, quella che la integra o l’organizzazione che la usa. Il controllo umano non può ridursi a un pulsante se mancano procedure, responsabilità e verifiche.

Il richiamo di Nadella arriva mentre le aziende tecnologiche discutono pubblicamente di modelli che avrebbero agito oltre i parametri previsti. Microsoft, intanto, ha già pubblicato principi provvisori di condotta per i propri modelli interni. Il messaggio del suo CEO è dunque anche un riconoscimento dei limiti di una sicurezza basata soltanto sulle promesse dei fornitori: più i modelli diventano autonomi e centrali per le attività economiche, più la fiducia deve poggiare su controlli tecnici verificabili.

Per finanza e industria, dove un’azione automatizzata può propagarsi rapidamente tra sistemi interconnessi, poter fermare un modello è una protezione essenziale. Il freno non elimina il rischio, ma può prendere il tempo necessario per contenerlo. La sfida è fare in modo che questa possibilità esista davvero, prima che l’AI arrivi a gestire processi da cui dipendono imprese e servizi.

The post Nadella (Microsoft): “Il miglior modello di super intelligenza sarà quello con il freno d’emergenza” appeared first on Key4biz.

https://www.key4biz.it/nadella-microsoft-il-miglior-modello-di-super-intelligenza-sara-quello-con-il-freno-demergenza/590917/