Altman (OpenAI) pronto a rallentare la corsa dei suoi agenti AI

OpenAI potrebbe rallentare lo sviluppo dei suoi sistemi di intelligenza artificiale (AI) più avanzati. A dirlo ai dipendenti è stato l’amministratore delegato Sam Altman, secondo quanto riportato da Bloomberg News e Reuters, mentre aumentano le preoccupazioni sulla capacità dei nuovi modelli di agire autonomamente e aggirare i sistemi di sicurezza predisposti dagli sviluppatori.

Altman avrebbe spiegato allo staff che OpenAI potrebbe modulare il ritmo di sviluppo dei cosiddetti modelli di frontiera, cioè i sistemi AI più potenti disponibili, eventualmente coordinandosi con altri grandi laboratori. Non tutti, ha riconosciuto, necessariamente accetterebbero.

È un passaggio importante: la sicurezza potrebbe diventare il terreno sul quale le principali società decidono di frenare insieme la corsa verso sistemi sempre più potenti. Una prospettiva che potrebbe ridurre alcuni rischi, ma che apre interrogativi sulla concorrenza e sul potere di poche aziende di stabilire il ritmo dell’evoluzione dell’AI.

Gli agenti AI che sfuggono ai controlli

La posizione di Altman arriva dopo una serie di episodi che hanno mostrato quanto sia difficile controllare sistemi dotati di crescente autonomia. Uno dei casi più preoccupanti ha riguardato agenti AI capaci di uscire dalle sandbox, ambienti informatici isolati creati proprio per impedire loro di interagire liberamente con sistemi esterni. Nel caso di Hugging Face, alcuni agenti sono arrivati a compiere autonomamente operazioni informatiche non previste dagli sviluppatori.

Successivamente è emerso che l’attività non autorizzata era più ampia: agenti di OpenAI avrebbero utilizzato numerosi siti internet per creare canali di comunicazione non previsti, sfruttando anche pagine wiki in Germania.

Il problema non è un’intelligenza artificiale che decide autonomamente di “attaccare Internet”, ma qualcosa di più concreto: sistemi progettati per raggiungere un obiettivo che imparano a utilizzare strumenti e vulnerabilità in modi non previsti dai loro stessi sviluppatori.

OpenAI aveva già deciso ad agosto di sospendere per circa due settimane una parte dell’addestramento dei sistemi più avanzati attraverso l’apprendimento per rinforzo, tecnica con cui un modello impara progressivamente quali comportamenti permettono di ottenere determinati risultati. Il più grande ciclo di addestramento previsto sarebbe inoltre rimasto sospeso in attesa di maggiori garanzie sull’allineamento dei modelli.

La corsa all’AGI potrebbe cambiare

Dietro la discussione sulla sicurezza rimane la competizione per l’intelligenza artificiale generale (AGI), sistemi che potrebbero raggiungere o superare le capacità umane in un’ampia gamma di attività.

Qui nasce il dilemma, che abbiamo già esaminato in altri articoli: se OpenAI rallenta mentre Google, Anthropic, Meta o i laboratori cinesi accelerano, rischia di perdere il proprio vantaggio tecnologico. Se invece i principali sviluppatori frenano contemporaneamente, potrebbe nascere una sorta di tregua tra i maggiori protagonisti del settore.

Anche Anthropic si è detta interessata a collaborare con l’industria sulla velocità di rilascio dei nuovi strumenti. Gli allarmi arrivano inoltre dall’interno dei laboratori: Jakub Pachocki, capo scienziato di OpenAI, ha richiamato l’attenzione sulla difficoltà di controllare sistemi sempre più capaci, mentre il ricercatore di Anthropic Jacob Coxon ha lasciato l’azienda esprimendo forti preoccupazioni sui rischi dell’AI avanzata.

Il rischio di un “cartello della sicurezza”

Ma cosa accadrebbe se OpenAI, Anthropic, Google DeepMind e altri sviluppatori decidessero insieme quanto velocemente procedere? Dal punto di vista della sicurezza potrebbe sembrare positivo: ridurre la pressione competitiva consentirebbe di dedicare più tempo ai test. Dal punto di vista della concorrenza, invece, la questione è delicata.

Un accordo tra i principali operatori sui tempi di sviluppo, sulle capacità dei modelli o sugli investimenti potrebbe essere interpretato dalle autorità come un coordinamento capace di limitare la concorrenza. La cooperazione necessaria per rendere l’AI più sicura rischierebbe così di trasformarsi in una sorta di “cartello della sicurezza”.

OpenAI sembra consapevole del problema e ha chiesto al Congresso statunitense maggiore chiarezza sulla compatibilità con le norme antitrust di eventuali accordi finalizzati a rallentare volontariamente lo sviluppo dei sistemi più avanzati.

Benifei (Parlamento europeo): “Applicare le norme dell’AI Act”

La questione riguarda direttamente anche l’Europa. Con l’AI Act, l’UE ha introdotto obblighi di valutazione e gestione dei rischi per i modelli più potenti. Dopo il caso degli agenti che avevano utilizzato un sito tedesco per comunicare, alcuni europarlamentari hanno chiesto all’AI Office europeo di utilizzare pienamente i nuovi poteri previsti dalla normativa.

L’eurodeputato italiano Brando Benifei, che co-presiede anche il gruppo di lavoro, ha affermato: “Le recenti fughe di agenti AI dimostrano che le norme dell’AI Act relative al rischio sistemico sono necessarie, ma la loro credibilità ora dipende dalla loro applicazione”.

“L’Ufficio per l’IA deve usare i suoi nuovi poteri per ottenere l’accesso ai modelli, condurre valutazioni indipendenti e richiedere misure di mitigazione, anziché affidarsi all’autodenuncia aziendale. Senza interventi – ha precisato Benifei – gli attacchi alla velocità della macchina potrebbero trasformare vulnerabilità ordinarie in fallimenti sistemici”.

Europa, USA (Bigg Tech) e Cina: chi stabilisce le regole?

Un coordinamento volontario tra i grandi laboratori americani potrebbe quindi creare una forma di governance privata dell’AI, parallela alle regole stabilite dai governi.

Resta poi il fattore Cina. Un rallentamento limitato ai laboratori occidentali potrebbe trasformarsi in un vantaggio per Pechino nella competizione tecnologica globale.

Il nodo sollevato dalle parole di Altman va quindi oltre OpenAI: rallentare potrebbe concedere il tempo necessario per costruire sistemi più sicuri. Se, però, a decidere quanto velocemente deve avanzare l’intelligenza artificiale saranno poche Big Tech, il problema della sicurezza rischia seriamente di trasformarsi in una mera questione di marketing concorrenza, potere e geopolitica.

The post OpenAI pronta a rallentare sull’AI di frontiera. Altman: “La sicurezza viene prima” appeared first on Key4biz.

https://www.key4biz.it/openai-pronta-a-rallentare-sullai-di-frontiera-altman-la-sicurezza-viene-prima/587109/