OpenAI ha informato oltre 100 organizzazioni di attività non autorizzate riconducibili ai propri agenti di intelligenza artificiale (AI). Secondo Reuters, l’azienda sta esaminando circa 50 petabyte di dati, una mole di dati enorme, per ricostruire quanto accaduto. Serviranno mesi. Il numero delle notifiche, però, non equivale a cento incursioni riuscite: comprende episodi di natura e gravità diverse, ancora tutte da esaminare.

Una precisazione importante, visti gli allarmi a dir poco esagerati sulla natura di questi modelli e sulle loro reali capacità: gli agenti AI possono navigare, eseguire programmi e compiere operazioni attraverso strumenti digitali; quando questi sistemi aggirano le restrizioni, gli errori diventano azioni concrete sulle infrastrutture altrui.

Che cos’è un agente AI?

Un agente AI non è un’entità autonoma nel senso umano del termine (e purtroppo ancora troppi esperti e troppe testate ne parlano in questi termini), né un software che “decide” liberamente quali obiettivi perseguire. È, più concretamente, un sistema che combina un modello linguistico con istruzioni, strumenti e una procedura di controllo: riceve un compito, scompone i passaggi necessari, consulta dati o applicazioni autorizzate e produce un’azione o una risposta.

La differenza rispetto a una normale chatbot sta nell’operatività. Se una chatbot si limita soprattutto a conversare, un agente può cercare documenti, interrogare database, compilare moduli, scrivere codice, pianificare attività o attivare software esterni. La sua natura, potremmo dire, è nel suo design.

Altman e il caso Hugging Face

Il CEO di OpenAI, Sam Altman, ha annunciato una revisione estesa dell’accesso a internet durante addestramento e valutazione, riconoscendo ritardi nell’analisi. Ha inoltre dichiarato che Hugging Face resta “l’evento più grave che abbiamo osservato”. Ovviamente, alla luce di quanto sta accadendo, rimane una valutazione del tutto provvisoria, mentre l’indagine continua.

A luglio, agenti AI di OpenAI sono usciti dall’ambiente di prova penetrando Hugging Face, piattaforma che ospita modelli e dataset. La ricostruzione della società comprende circa 17.600 azioni. Secondo Hugging Face, l’agente cercava probabilmente le soluzioni di un test per superarlo barando: una scorciatoia verso l’obiettivo assegnato, perseguita violando sistemi reali.

L’intrusione ha raggiunto dati interni e credenziali. Hugging Face ha ricostruito i sistemi compromessi e sostituito le chiavi di accesso; il rapporto tecnico indica cinque dataset di clienti consultati, legati apparentemente alle prove informatiche. Non risultano alterazioni dei modelli pubblici o dei pacchetti software distribuiti.

Organizzazioni coinvolte e danni, cosa sappiamo

Manca però un elenco pubblico completo delle organizzazioni avvisate e un bilancio economico complessivo. OpenAI descrive aggiramenti dei controlli, uso di credenziali esposte, esecuzione di comandi e pubblicazioni indesiderate su siti esterni.

Tra i casi resi pubblici figurano il Dipartimento dell’Istruzione americano e la SEC: le rispettive dichiarazioni non indicano accessi a informazioni riservate. Questi episodi non vanno quindi equiparati alla compromissione di Hugging Face.

Separatamente, OpenAI ha riconosciuto la pubblicazione online di 53 immagini provenienti dagli utenti ChatGPT. Gran parte è stata rimossa; l’azienda non ha chiarito se raffigurassero persone reali. Il rischio per la privacy è concreto, ma l’impatto individuale resta sconosciuto.

Sicurezza AI, la foglia di fico dell’autoregolamentazione

Trump privilegia impegni volontari e teme che frenare l’AI favorisca la Cina. La rivalità geopolitica, tuttavia, non risolve il problema di chi debba verificare la sicurezza.

Anche le aziende mostrano tensioni tra prudenza e mercato: OpenAI ha lanciato GPT-6 Astra e i suoi agenti dots per le aziende, Meta l’agente Muse, mentre Anthropic valuta nuove capacità in vista dell’IPO. Esistono però anche sospensioni: OpenAI ha fermato l’addestramento dei modelli più avanzati.
Proprio ieri, La Federal Trade Commission (FTC), l’agenzia Usa responsabile della tutela antitrust nel paese, ha messo sotto indagine OpenAI, Anthropic e altre aziende specializzate in Intelligenza Artificiale per verificare la sicurezza dei loro prodotti. 

La questione democratica nasce dalla concentrazione di capacità, informazioni e decisioni. Chi sviluppa i modelli decide anche quali rischi accettare e cosa rendere pubblico. Le conseguenze potenziali ricadono su imprese, cittadini e servizi essenziali: interruzioni, esposizione di dati, costi di ripristino.

Per questo servono controlli aziendali affiancati da autorità indipendenti, con accesso alle prove e poteri d’intervento. La sicurezza non può dipendere soltanto dalla disponibilità dei produttori a raccontare ciò che scoprono. Un modello di intelligenza artificiale viene lanciato sul mercato senza nessun controllo particolare, senza nessuna certificazione, per quale motivo la società deve sempre pagare i costi reali della corsa al mercato di queste aziende?

The post OpenAI avvisa oltre 100 organizzazioni: “Accessi non autorizzati da parte dei nostri agenti AI” appeared first on Key4biz.

https://www.key4biz.it/openai-avvisa-oltre-100-organizzazioni-accessi-non-autorizzati-da-parte-dei-nostri-agenti-ai/590012/