Papa Leone: “L’AI rappresenta una sfida per l’umanità”

Nel suo primo discorso ufficiale ai cardinali, Papa Leone XIV ha evidenziato l’intenzione di proseguire sulla linea tracciata dal suo predecessore, Papa Francesco, ponendo un accento particolare sulle sfide etiche e sociali poste dallo sviluppo dell’AI.

Eletto come primo pontefice nato negli Stati Uniti, Robert Prevost – ora Leone XIV – ha richiamato il magistero sociale della Chiesa, citando l’eredità di Papa Leone XIII e del suo impegno durante la rivoluzione industriale.

Secondo il pontefice, la rivoluzione tecnologica contemporanea, alimentata dall’AI, comporta rischi concreti per la dignità del lavoro e la giustizia sociale, richiedendo una riflessione urgente e responsabile da parte delle istituzioni ecclesiastiche.

Il nuovo papa ha affermato che la Chiesa deve rispondere alle trasformazioni odierne con il patrimonio della dottrina sociale, promuovendo il dialogo con il mondo moderno, la collegialità tra i vescovi e l’attenzione verso gli emarginati. Ha invitato i cardinali a rinnovare l’impegno verso i principi del Concilio Vaticano II, tra cui l’apertura linguistica e culturale della liturgia.

In un gesto simbolico di continuità spirituale, Leone XIV ha visitato il santuario della Madonna del Buon Consiglio, luogo legato alla sua formazione agostiniana e alla figura di Leone XIII, rafforzando così il legame tra tradizione e rinnovamento. Infine, nel riconoscere la complessità del ruolo affidatogli, ha sottolineato l’importanza della fraternità e della cooperazione nel portare avanti una missione che guarda con attenzione alle trasformazioni globali, incluse quelle generate dall’AI.

Per maggiori informazioni, clicca per l’articolo originale.

Pechino investe decine di milioni di dollari per sviluppare un ecosistema AI cinese indipendente da Nvidia

Nell’ambito della sua strategia per l’autosufficienza tecnologica, Pechino sta canalizzando decine di milioni di dollari in sussidi per favorire la crescita di una catena del valore dell’AI interamente basata su tecnologie domestiche.

L’iniziativa si concentra nello Yizhuang Development Zone, noto anche come Beijing Economic and Technological Development Zone, che ambisce a costruire entro fine anno un ecosistema industriale dell’AI del valore di 80 miliardi di yuan (circa 11 miliardi di dollari).

Questo sistema sarà alimentato esclusivamente da semiconduttori, sistemi operativi e framework open-source di origine cinese, escludendo tecnologie straniere come quelle fornite da Nvidia. Uno degli obiettivi chiave del piano è potenziare la ricerca e lo sviluppo di unità di elaborazione grafica (GPU) ad alte prestazioni, promuovendo in particolare chip basati sull’architettura open-source RISC-V, che rappresenta una valida alternativa ai più diffusi standard x86 di Intel e ARM.

Tale approccio mira a ridurre la dipendenza da tecnologie estere in un momento in cui le tensioni geopolitiche, specialmente con gli Stati Uniti, stanno ridefinendo le strategie industriali cinesi. Il progetto fa parte di un’iniziativa nazionale più ampia volta ad implementare l’AI in settori chiave come la robotica, rafforzando l’innovazione locale e garantendo il controllo sulle infrastrutture digitali.

La scelta di adottare piattaforme open-source si inserisce in una visione di lungo termine che mira a costruire una base tecnologica resiliente e autonoma, capace di competere su scala globale e aggirare eventuali restrizioni internazionali.

Per maggiori informazioni, clicca per l’articolo originale.

Trump licenzia la direttrice dell’Ufficio Copyright degli Stati Uniti, secondo fonti

Secondo fonti confermate da CBS News, l’ex presidente Donald Trump ha rimosso Shira Perlmutter dal ruolo di direttrice dell’U.S. Copyright Office, un’azione che ha sollevato forti critiche e accuse di abuso di potere. Il licenziamento è avvenuto a seguito della pubblicazione di un rapporto da parte dell’ufficio da lei diretto, che metteva in discussione le modalità di utilizzo delle opere protette da copyright da parte delle tecnologie AI.

In particolare, il documento sollevava dubbi sulla quantità di dati necessari per l’addestramento dei modelli di intelligenza artificiale e sul loro impatto effettivo sulle prestazioni reali, contrastando implicitamente proposte favorevoli all’espansione dell’uso di contenuti protetti per fini algoritmici. Perlmutter era stata nominata nel 2020 dalla ex Bibliotecaria del Congresso Carla Hayden, anch’essa recentemente destituita da Trump.

Secondo il deputato democratico Joe Morelle, la decisione rientra in una ‘sfacciata e senza precedenti presa di potere’, priva di giustificazione giuridica.

Morelle ha collegato il licenziamento al rifiuto di Perlmutter di approvare l’accesso illimitato richiesto da Elon Musk alle opere coperte da copyright per scopi di addestramento AI, proprio nei giorni in cui la sua azienda xAI è stata coinvolta in dinamiche di mercato controverse. I

l contesto più ampio è quello di un’amministrazione fortemente impegnata nella promozione dell’AI, come dimostrato dal massiccio investimento annunciato in infrastrutture AI da parte di soggetti come OpenAI, SoftBank e Oracle.

Il caso mette in luce le tensioni crescenti tra protezione della proprietà intellettuale e pressioni economiche e tecnologiche per l’espansione delle capacità dell’AI, sollevando interrogativi sul bilanciamento tra innovazione e diritti legali.

Per maggiori informazioni, clicca per l’articolo originale.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/papa-leone-lai-rappresenta-una-sfida-per-lumanita/531283/




La nuova ‘macabra’ visione di Mark Zuckerberg: più amici AI che umani

Mark Zuckerberg sta delineando una nuova era digitale in cui l’AI diventa una presenza dominante nella vita quotidiana, superando persino le relazioni umane.

In una serie di podcast, interviste pubbliche e conferenze recenti, il CEO di Meta ha illustrato il suo progetto di creare un ecosistema di ‘amici AI’, terapeuti virtuali e agenti commerciali intelligenti capaci di sostituire figure umane tradizionali nei ruoli di supporto, consulenza e interazione sociale.

La proposta si fonda sulla constatazione che molte persone oggi hanno pochi amici stretti, ma un bisogno latente di connessioni più numerose e significative, che secondo Zuckerberg le AI potrebbero soddisfare meglio.

La visione include l’uso di chatbot sempre più personalizzati, presenti su app social come Facebook e Instagram, ma anche integrati in dispositivi come gli occhiali intelligenti Ray-Ban. Secondo Zuckerberg, questi agenti conversazionali non dovranno solo rispondere a comandi, ma comportarsi come veri amici, con una comprensione profonda della vita dell’utente. Già oggi, ha dichiarato, circa un miliardo di persone interagisce mensilmente con Meta AI.

Non mancano però le critiche: alcuni ex dirigenti di Meta sostengono che le stesse piattaforme responsabili della crescente solitudine sociale stiano ora proponendo soluzioni basate sull’AI come rimedio, in un paradosso inquietante. Anche esperti di psicologia avvertono che, sebbene gli assistenti virtuali possano offrire supporto in assenza di alternative, non potranno mai sostituire completamente il valore delle relazioni umane autentiche.

Zuckerberg sembra tuttavia deciso a investire massicciamente su questa nuova direzione, nella speranza di trasformare le dinamiche sociali globali attraverso la tecnologia.

Per maggiori informazioni, clicca per l’articolo originale.

L’AI predirà le malattie future analizzando i dati dei pazienti del NHS

Nel Regno Unito ha preso il via uno studio pionieristico che impiegherà l’AI generativa per prevedere le malattie future attraverso l’analisi dei dati sanitari anonimizzati di 57 milioni di cittadini inglesi.

Il progetto, denominato ‘Foresight’, mira a riconoscere i segnali precoci di deterioramento della salute al fine di intervenire preventivamente e ridurre l’incidenza di eventi critici come infarti o ospedalizzazioni. Funzionando in modo simile a ChatGPT, il modello apprende da pattern storici per anticipare le condizioni cliniche potenzialmente emergenti.

Sviluppato da ricercatori dell’University College London e del King’s College London, Foresight utilizzerà informazioni sanitarie come accessi al pronto soccorso, ricoveri e vaccinazioni. L’innovazione risiede nella possibilità di sfruttare la previsione automatizzata per personalizzare le cure e ottimizzare i trattamenti.

L’obiettivo non è soltanto terapeutico ma preventivo: un passaggio strategico che il Governo britannico considera essenziale per trasformare il sistema sanitario nazionale da reattivo a proattivo.

Le autorità assicurano che la privacy è al centro del progetto: i dati trattati sono completamente de-identificati e custoditi all’interno del Secure Data Environment del NHS England. Nonostante le preoccupazioni sulla sicurezza dei dati dopo la recente polemica sull’accesso cinese a informazioni mediche tramite UK Biobank, gli sviluppatori sottolineano la rigorosità delle misure di protezione adottate.

Il ministro della salute Wes Streeting e il segretario alla scienza Peter Kyle ribadiscono che il ricorso all’AI rappresenta una svolta decisiva per un NHS più efficiente e tecnologicamente avanzato.

Per maggiori informazioni, clicca per l’articolo originale.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/la-nuova-macabra-visione-di-mark-zuckerberg-piu-amici-ai-che-umani/530944/




Cybercriminali sfruttano una vulnerabilità di Langflow per prendere il controllo dei server


Una vulnerabilità di Langflow sta venendo attivamente sfruttata per prendere il controllo dei server: a dirlo è la CISA in un advisory pubblicato lo scorso 5 maggio.

Il bug di mancata autenticazione, tracciato come CVE-2025-3248, consente a un attaccante non autenticato di prendere il controllo completo dei server Langflow e comprometterli.

Langflow è un tool open-source di programmazione visuale che aiuta gli sviluppatori a creare agenti di IA e workflow che integrano API, modelli e database. L’interfaccia drag & drop consente di aggiungere facilmente elementi al progetto, come input, prompt e output, e di scegliere il modello di IA da utilizzare. Lo strumento è ampiamente usato dalla community degli sviluppatori: su GitHub conta 63.000 fork e oltre 14.000 utenti.

Langflow

A individuare la vulnerabilità sono stati i ricercatori di Horizon3.ai. Il tool consente di eseguire codice remoto anche agli utenti non autenticati e non prevede meccanismi di sandboxing. Il team di Horizon3.ai ha analizzato il codice per capire l’impatto di queste scelte architetturali e ha individuato l’endpoint per l’esecuzione remota, /api/v1/validate/code, che esegue il comando exec di Python sull’input dell’utente senza una corretta validazione.

Tramite questo endpoint, l’input dell’utente viene eseguito direttamente sul server, consentendo a un attaccante di eseguire qualsiasi comando. Sfruttare la vulnerabilità non è in realtà così semplice, ma utilizzando le funzioni decorator di Python è possibile iniettare un payload malevolo per compromettere il server. 

Il team dietro il progetto ha rilasciato una fix per il bug nella versione 1.3.0 pubblicata il 31 marzo scorso. I ricercatori di Horizon3.ai invitano gli sviluppatori che usano il tool ad aggiornarlo il prima possibile a quella versione o all’ultima rilasciata (la 1.4.0).

“Il codice vulnerabile è presente nelle prime versioni di Langflow, fino a due anni fa, e dai nostri test sembra che molte versioni precedenti alla 1.3.0, se non tutte, sono vulnerabili” ha spiegato il team di Horizon3.ai. I ricercatori hanno inoltre affermato che la patch si limita ad aggiungere l’autenticazione per l’endpoint e che quindi il bug può essere ancora sfruttato da qualsiasi utente, anche se “questo era comunque già possibile senza la presenza della vulnerabilità“. L’unico intervento davvero efficace sarebbe quello di utilizzare meccanismi di sandboxing per isolare il codice eseguito da remoto.

Condividi l’articolo



Articoli correlati

Altro in questa categoria


https://www.securityinfo.it/2025/05/07/cybercriminali-sfruttano-una-vulnerabilita-di-langflow-per-prendere-il-controllo-dei-server/?utm_source=rss&utm_medium=rss&utm_campaign=cybercriminali-sfruttano-una-vulnerabilita-di-langflow-per-prendere-il-controllo-dei-server




“Economia della complementarietà” tra uomini e AI, ma l’ONU ricorda: “Non è tecnologia neutrale”

Intelligenza artificiale e sfide sociali in un mondo in trasformazione

Pubblicato il nuovo rapporto “A Matter of Choice: People and Possibilities in the Age of AI” dell’UNDP (Programma delle Nazioni Unite per lo Sviluppo), che offre uno spunto di riflessione sulle intersezioni cruciali tra tecnologia, economia e società.

L’intelligenza artificiale (AI) sta rapidamente penetrando ogni angolo della nostra vita quotidiana e il documento solleva interrogativi urgenti sui suoi impatti sul lavoro, sui diritti umani e sulle disuguaglianze sociali.

Sintetizzando al massimo, il documento lancia un messaggio (o monito) chiaro e semplice: “Il futuro dell’umanità, in questa nuova era tecnologica, dipenderà dalle scelte che faremo oggi”.

Il lavoro nell’era dell’AI: un equilibrio tra innovazione e precarietà

Un tema centrale nel rapporto è l’impatto dell’AI sul mondo del lavoro. Se da un lato l’automazione e l’intelligenza artificiale promettono di aumentare la produttività e creare nuovi settori industriali, dall’altro stanno emergendo preoccupazioni sulla disoccupazione tecnologica e sulla crescente precarizzazione del lavoro.

Le stime sull’automazione mostrano che settori come la logistica, la produzione e i servizi potrebbero vedere una riduzione significativa dei posti di lavoro, mettendo a rischio le fasce più vulnerabili della popolazione.

È sottolineato, inoltre, che mentre l’AI può essere utile in compiti specifici, l’interazione tra l’uomo e la macchina può aprire nuove opportunità per l’innovazione. L’obiettivo è creare una “economia di complementarietà” in cui l’intelligenza artificiale amplifichi le capacità umane.
Ma servono più competenze, in termini professionali, da sviluppare orizzontalmente e verticalmente, per raggiungere questo obiettivo.

L’UNDP spiega, infatti, che, sebbene l’intelligenza artificiale offra nuove opportunità, queste sono spesso accessibili solo a coloro che possiedono determinate competenze tecnologiche. Senza una corretta gestione, l’AI potrebbe esacerbare le disuguaglianze tra lavoratori altamente qualificati e quelli con competenze tradizionali, creando una divisione sociale sempre più netta.

Per evitare che l’AI contribuisca alla polarizzazione economica, il rapporto sollecita politiche che favoriscano la formazione continua e l’adattamento delle forze lavoro alle nuove tecnologie. Investire in programmi di riqualificazione e garantire una rete di sicurezza sociale potrebbero essere le chiavi per una transizione equa verso un futuro automatizzato.

I diritti umani nell’epoca dell’AI: protezione o pericolo?

Un altro aspetto cruciale trattato nel rapporto riguarda l’impatto dell’AI sui diritti umani. La tecnologia ha il potenziale di migliorare enormemente la qualità della vita, ma può anche sollevare nuove sfide etiche, in particolare in ambito di libertà di espressione, privacy e discriminazione.

L’uso di sistemi di AI per il monitoraggio e il controllo, come nel caso dei sistemi di sorveglianza avanzata, può minacciare la libertà individuale e amplificare la repressione politica. L’UNDP avverte che senza un rigoroso controllo e regolamentazione, l’AI potrebbe essere utilizzata per sorvegliare e limitare le libertà civili, violando i diritti fondamentali delle persone.

D’altro canto, la tecnologia può anche essere utilizzata per rafforzare la protezione dei diritti umani, come nel caso delle tecnologie impiegate per garantire la sicurezza alimentare, la sanità e l’accesso all’istruzione.

Nel documento è poi precisato che “l’AI non è neutra”, perché “riflette e amplifica le disuguaglianze e i valori delle società che la creano”. Tuttavia, è possibile rendere l’AI uno strumento positivo per la società, me par farlo è necessario che venga sviluppata e applicata in modo equo, senza favorire alcuna parte della popolazione a discapito di un’altra.

Un futuro di scelte consapevoli

L’UNDP, tramite il suo rapporto, invita i governi, le imprese e la società civile a fare scelte consapevoli e responsabili riguardo all’adozione dell’AI. Non si tratta solo di decidere se l’intelligenza artificiale debba essere utilizzata, ma anche di come essa possa essere progettata, regolamentata e distribuita per favorire il benessere collettivo.

In un mondo sempre più interconnesso, le sfide sociali sollevate dall’AI richiedono una risposta globale che tuteli i diritti umani, promuova l’inclusione sociale affinché nessuno venga lasciato indietro nel cammino dell’innovazione. Come sottolineato nel rapporto, l’AI è una questione di scelte – scelte che determinano non solo il futuro del lavoro, ma anche la qualità della vita e la giustizia sociale.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/economia-della-complementarieta-tra-uomini-e-ai-ma-lonu-ricorda-non-e-tecnologia-neutrale/530677/




OpenAI prevede di ridurre drasticamente la quota di ricavi destinata a Microsoft

OpenAI avrebbe comunicato ai propri investitori l’intenzione di ridurre significativamente, entro la fine del decennio, la quota di ricavi destinata a Microsoft, secondo quanto riportato da The Information.

L’accordo attuale tra le due aziende, che rappresenta una delle partnership più rilevanti nel panorama dell’AI, è al centro di questa possibile revisione. Sebbene i dettagli esatti della nuova struttura di compartecipazione non siano stati rivelati, la riduzione dovrebbe attestarsi ad almeno la metà rispetto all’attuale percentuale.

La notizia suggerisce un cambiamento strategico nell’equilibrio della collaborazione tra OpenAI e il colosso di Redmond, che ha finora beneficiato di una posizione privilegiata grazie agli investimenti multimiliardari nella startup.

Una simile mossa potrebbe riflettere un desiderio crescente da parte di OpenAI di incrementare la propria indipendenza economica e decisionale, oppure un riposizionamento negoziale per valorizzare maggiormente i propri asset tecnologici in vista di una più ampia monetizzazione dei modelli linguistici avanzati.

La revisione dell’accordo potrebbe avere ripercussioni sul mercato, influenzando le dinamiche tra i grandi attori dell’intelligenza artificiale, oltre a innescare nuovi scenari competitivi. Non è chiaro se Microsoft risponderà ridefinendo la propria strategia o cercando di rinegoziare termini più favorevoli.

L’evoluzione di questa vicenda sarà probabilmente seguita con attenzione da analisti e stakeholder, data la rilevanza delle sinergie tra le due entità nel settore dell’AI enterprise.

Per maggiori informazioni, clicca per l’articolo originale.

Han della Corea del Sud promette la creazione di un Ministero per l’AI per recuperare il ritardo nella corsa tecnologica

Nel contesto della campagna elettorale presidenziale sudcoreana, Han Duck-soo, ex leader ad interim e candidato indipendente di area conservatrice, ha annunciato la volontà di istituire un nuovo Ministero per la Strategia d’Innovazione dell’AI.

Tale proposta, prima promessa ufficiale del suo programma elettorale, mira a fare dell’intelligenza artificiale un pilastro della strategia nazionale, integrando le politiche ambientali e tecnologiche per accelerare l’adozione dell’AI e delle scienze avanzate.

Il piano prevede un investimento iniziale di 1.000 miliardi di won (circa 716 milioni di dollari) destinato alla formazione di talenti locali e al reclutamento di esperti internazionali, oltre a incentivare la produzione di semiconduttori avanzati. Han, pur non affiliato a un partito, cerca di rappresentare l’area conservatrice, sfidando Kim Moon-soo, ufficialmente designato dal Partito del Potere del Popolo.

Le tensioni interne al fronte conservatore, unite al tentativo di unificazione delle campagne tra Han e Kim, riflettono la difficoltà del blocco di destra nel contrastare il candidato dell’opposizione, Lee Jae-myung, attualmente in netto vantaggio nei sondaggi.

La corsa elettorale è stata innescata dall’impeachment del presidente Yoon Suk Yeol, evento che ha scosso il panorama politico e le credibilità dei candidati conservatori, entrambi coinvolti nel precedente governo.

In un contesto economico delicato, segnato da esportazioni in calo e tensioni commerciali globali, la proposta di Han punta a rafforzare la competitività tecnologica della Corea del Sud, sottolineando l’urgenza di una governance più strutturata per affrontare la sfida globale dell’AI.

Per maggiori informazioni, clicca per l’articolo originale.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/openai-prevede-di-ridurre-drasticamente-la-quota-di-ricavi-destinata-a-microsoft/530674/




Cloud, il mercato globale dei servizi basati sull’AI a 94 miliardi di dollari entro il 2025

L’AI traina la crescita record nel mercato dei servizi cloud mondiale

Il mercato globale dei servizi di infrastruttura cloud sta vivendo un’impennata straordinaria, trainata in gran parte dall’adozione dell’intelligenza artificiale generativa (GenAI) e dalla crescente domanda da parte delle imprese.

Secondo l’ultima analisi del Synergy Research Group, la spesa in questo settore è aumentata del 23% su base annua nel primo trimestre del 2025, raggiungendo l’impressionante cifra di 93,9 miliardi di dollari. Si tratta di un aumento su base annua pari a 17,5 miliardi di dollari, segno di una forte dinamica di crescita nonostante un raffreddamento degli investimenti da parte degli hyperscaler (Amazon, Google, Microsoft, Meta, solo per citare i più famosi).

Il dato sui ricavi degli ultimi 12 mesi per i servizi di infrastruttura cloud nel suo complesso ora ammonta a 348,1 miliardi di dollari, sottolineando la solidità di lungo periodo del mercato. Va inoltre segnalato che, secondo i ricercatori, gli effetti dei tassi di cambio stanno mascherando una performance ancora più forte: la crescita annua si avvicina al 25%, offrendo una visione più accurata dell’espansione reale.

GenAI: il catalizzatore di una crescita del 52% dal 2022

La rivoluzione dell’intelligenza artificiale—e in particolare la diffusione di massa della GenAI dopo il lancio di ChatGPT di OpenAI 29 mesi fa—ha avuto un impatto trasformativo. Si stima che il mercato dell’infrastruttura cloud sia cresciuto del + 52% dalla fine del 2022, dimostrando il ruolo centrale dell’AI nell’architettura IT moderna.

“Continuiamo a osservare numeri forti in termini di ricavi e crescita nel mercato del cloud, con un’accelerazione significativa negli ultimi sei trimestri”, ha dichiarato John Dinsdale, Chief Analyst di Synergy Research Group, secondo quanto riportato da telecomtv.com. I servizi specifici per GenAI hanno registrato tassi di crescita tra il 140% e il 160%, secondo Dinsdale, con un impatto esteso anche al resto del portafoglio servizi grazie all’integrazione dell’AI.

Leader di mercato e dinamiche regionali

Nonostante i cambiamenti nel panorama tecnologico, la classifica dei leader di mercato rimane stabile:

  • Amazon Web Services (AWS) è ancora in testa, con 29,27 miliardi di dollari di ricavi nel Q1 e una quota di mercato del 29%.
  • Microsoft Azure segue con una quota del 22%, mentre Google Cloud si posiziona al 12%.
  • Altri attori importanti includono Alibaba Cloud (4%) e Oracle (3%).

Tra i provider di secondo livello, le aziende che mostrano i tassi di crescita più alti sono CoreWeave, Oracle, Databricks, Snowflake, Cloudflare e Huawei.
In particolare, CoreWeave ha vissuto una crescita fulminea—passando da un ruolo marginale a un passo dall’entrare nella top 12 globale, grazie ai suoi servizi ottimizzati per AI e GPU.

In Irlanda, Spagna e Italia il tasso di crescita più elevato

Sebbene gli Stati Uniti rappresentino ancora il mercato regionale più grande—con un valore superiore a quello dell’intera regione Asia-Pacifico—la crescita è sempre più distribuita globalmente.

Paesi come Brasile, Spagna, Italia, Corea del Sud, India, Australia e Indonesia hanno superato la media globale in termini di crescita, se misurata in valute locali.

In Europa, Regno Unito e Germania sono i mercati cloud più grandi, ma Irlanda, Spagna e Italia hanno registrato i tassi di crescita annui più elevati nel primo trimestre del 2025.

Questa espansione internazionale riflette sia la crescente adozione del cloud da parte delle imprese, sia gli investimenti strategici dei fornitori in infrastrutture data center su scala globale.

Dominanza del cloud pubblico e composizione del settore

I servizi cloud pubblici—nello specifico Infrastructure-as-a-Service (IaaS) e Platform-as-a-Service (PaaS)—costituiscono la maggior parte del mercato e sono cresciuti del 24% su base annua nel Q1, o del 26% a valute costanti. La domanda di soluzioni scalabili e pronte per l’AI continua a trainare questi segmenti.

Al contrario, i servizi di cloud privato ospitato mantengono un ruolo più contenuto ma comunque significativo, soprattutto nei settori regolamentati e in regioni con requisiti stringenti di sovranità dei dati.

Cloud: investimenti massicci e redditizi

Anche se l’industria del cloud è caratterizzata da spese in conto capitale elevate—soprattutto per hardware AI e costruzione di data center—il ritorno sugli investimenti è evidente.
Con le imprese che accelerano la trasformazione digitale alimentata dall’AI, i fornitori di servizi cloud stanno beneficiando di ricavi in forte espansione, nuove offerte di servizi e un’impronta globale sempre più ampia.

La traiettoria del mercato dei servizi cloud, potenziata dall’AI generativa e dai carichi di lavoro digitali in espansione, sembra destinata a una crescita sostenuta a doppia cifra, con nuovi entranti come CoreWeave che sfidano lo status quo e le Big Tech che consolidano la loro supremazia globale.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/cloud-il-mercato-globale-dei-servizi-basati-sullai-a-94-miliardi-di-dollari-entro-il-2025/530574/




Veeam annuncia l’integrazione per MCP di Anthropic


In occasione di VeeamON, conferenza annuale dell’azienda, Veeam ha annunciato l’integrazione per il Model Context Protocol (MCP) di Anthropic come supporto a nuove funzionalità di IA per l’accesso sicuro ai dati.

Con questa novità l’azienda rende la protezione dati una base per un processo decisionale più intelligente e più ricco. L’uso del protocollo di Anthropic consente a Veeam di integrare la sua piattaforma per la resilienza dei dati con le applicazioni di IA dei clienti.

“Non ci limitiamo più a eseguire il backup dei dati, ma li apriamo all’intelligenza“ ha dichiarato Niraj Tolia, CTO di Veeam. “Supportando il Model Context Protocol, i clienti possono ora collegare in modo sicuro i dati protetti da Veeam agli strumenti di intelligenza artificiale di loro scelta. Che si tratti di copiloti interni, database vettoriali o LLM, Veeam garantisce che i dati siano pronti per l’AI, portabili e protetti“.

Veeam Anthropic

L’integrazione con MCP permette ai clienti di Veeam di sfruttare i dati di backup per diversi casi d’uso basati su IA, come recuperare documenti correlati usando query in linguaggio naturale, riassumere conversazioni da e-mail o ticket, automatizzare i processi di conformità e arricchire gli agenti di IA con un contesto specifico.

Altri importanti vantaggi derivati dall’integrazione sono una maggiore accessibilità ai dati, sia strutturati che non, per gli agenti di IA, un miglioramento del processo decisionale e una semplificazione della connettività tra la piattaforma di Veeam e qualsiasi piattaforma di IA conforme.

L’integrazione si inserisce in una roadmap di IA dell’azienda basata su cinque pilastri: la resilienza dell’infrastruttura IA, per garantire che dati, database e modelli siano sicuri; la data intelligence, per valorizzare i dati che alimentano applicazioni di IA; la sicurezza dei dati, integrando tecniche di IA e machine learning per migliorare il rilevamento delle minacce; l’Admin Assist, ovvero il supporto agli amministratori del backup tramite IA; infine, le operazioni di resilienza dei dati che comprendono l’automatizzazione di backup, ripristini, creazioni di policy e analisi dei dati sensibili.

Condividi l’articolo



Articoli correlati

Altro in questa categoria


https://www.securityinfo.it/2025/05/05/veeam-annuncia-lintegrazione-per-mcp-di-anthropic/?utm_source=rss&utm_medium=rss&utm_campaign=veeam-annuncia-lintegrazione-per-mcp-di-anthropic




L’Intelligenza Artificiale tra sogno e incubo: il sottile confine tra progresso e rischio

L’arrivo di ChatGPT il 30 novembre 2022 ha focalizzato l’attenzione di molti di noi sui sistemi di Intelligenza Artificiale (AI), che più propriamente dovremmo chiamare modelli di Machine Learning (ML). L’interesse in questa “nuova” tecnologia ha incluso sin da subito sia informatici, sia utilizzatori di sistemi IT, sia chi usa quotidianamente applicazioni IT anche solo sugli smartphone, sia chi con le tecnologie informatiche ha di solito poco a che fare.

Questo vasto interesse può essere facilmente compreso dato che sin dai tempi antichi, ad esempio degli antichi greci, già l’uomo immaginava la creazione di “automi” che potessero sostituirlo o almeno aiutarlo nei compiti più gravosi, più pericolosi o anche solo di poco interesse. Infatti l’uomo ha la capacità unica di creare strumenti che l’aiutano nelle sue azioni, è quindi logico sognare di avere un servitore meccanico e autonomo che lo aiuti e renda più facile e piacevole la propria vita.

Con la recente maturazione delle tecnologie di ML e AI in generale, che ormai hanno più di mezzo secolo di vita, è quindi comprensibile l’interesse di molti di noi non tanto da un punto di vista tecnico e specialistico informatico, quanto proprio come strumento a supporto dell’umanità.

Pertanto è utile cercare di capire cosa, come uomini, ci attendiamo da androidi, robot e sistemi AI in esecuzione su elaboratori sia grandi e distribuiti sia piccoli (almeno in dimensioni fisiche) come gli smartphone.

Un possibile punto di partenza non è tanto cosa dovrebbero fare queste applicazioni e strumenti ma piuttosto come dovrebbero comportarsi. Ad esempio è interessante considerare i 10 principi generali delle raccomandazioni UNESCO sull’Etica dell’Intelligenza Artificiale [1]:

  1. Proporzionalità e non nuocere,
  2. Sicurezza e protezione,
  3. Equità e non discriminazione,
  4. Sostenibilità,
  5. Diritto alla privacy e alla protezione dei dati,
  6. Supervisione umana e discrezionalità,
  7. Trasparenza e spiegabilità,
  8. Responsabilità e responsabilizzazione,
  9. Consapevolezza e alfabetizzazione,
  10. Governance e collaborazione adattive e multilaterali.

Può anche essere d’aiuto l’approccio del NIST alla gestione dei rischi derivanti dall’utilizzo del AI [2] che descrive 7 criteri per valutare la “Trustworthiness” dei sistemi AI:

  1. validità e affidabilità,
  2. protezione,
  3. sicurezza e resilienza,
  4. responsabilità e trasparenza,
  5. comprensione e modellazione,
  6. riservatezza,
  7. imparzialità, attraverso la mitigazione dei pregiudizi dannosi.

Un altro, per alcuni aspetti più semplice ma anche più ambiguo, è il famoso approccio di Isaac Asimov alle leggi che dovrebbero governare i “robot” [3]. E’ possibile riassumere le 3+1 leggi di Asimov come segue:

  • Legge 0: Un robot non può arrecare danno all’umanità né, a causa del suo mancato intervento, permettere che l’umanità subisca danni.
  • Legge 1: Un robot non può recare danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno, purché tali azioni non contrastino con la Legge Zero.
  • Legge 2: Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contrastino con la Legge Zero o la Prima Legge.
  • Legge 3: Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Legge Zero o la Prima o la Seconda Legge.

Sono state proposte molte integrazioni a queste leggi, la seguente compare spesso come Quarta Legge [4]:

  • Legge 4: Un robot deve stabilire la sua identità come robot in tutti i casi e non deve ingannare un essere umano impersonandolo.

Infine, è utile citare anche l’approccio proposto da Satya Nadella (CEO di Microsoft) [5] e ispirato alle leggi di Asimov:

  1. L’intelligenza artificiale deve essere progettata per assistere l’umanità,
  2. L’intelligenza artificiale deve essere trasparente,
  3. L’intelligenza artificiale deve massimizzare l’efficienza senza distruggere la dignità delle persone,
  4. L’intelligenza artificiale deve essere progettata per una Privacy intelligente,
  5. L’intelligenza artificiale deve avere una responsabilità (o “accountability”) algoritmica [Una formulazione alternativa è che l’uomo deve poter prevenire danni producibili dalla AI],
  6. L’intelligenza artificiale deve proteggersi dai pregiudizi (o “Bias”).

Il problema comune a tutte queste affermazioni è che sono generiche al punto di poter essere ambigue e soggette a interpretazioni diverse da parte di persone diverse. Asimov stesso scrisse che le sue “Leggi” sono una rappresentazione umana di concetti e che la difficoltà risiede nella formulazione logica e matematica che regola il comportamento degli strumenti di AI. Ma prima ancora della difficoltà logica e matematica della formulazione di queste leggi di comportamento degli strumenti AI, è necessario trovarne una formulazione di dettaglio che sia interpretata nello stesso modo e abbia lo stesso significato per tutti gli uomini.

Riassumendo ancora, la richiesta è che le tecnologie AI devono essere di aiuto all’uomo e all’umanità senza provocare danni. Ma quello che può essere d’aiuto ad un uomo, gruppo sociale, nazione, può allo stesso tempo provocare un danno ad un altro uomo, gruppo sociale, nazione. E questo ci riporta a valutazioni etiche alle quali molto difficilmente siamo in grado di dare una formulazione puramente logica e matematica.

La genericità e ambiguità di queste “Leggi” si manifesta immediatamente al primo tentativo di implementarle in codice informatico in un qualunque linguaggio di programmazione, e ancora di più nell’addestrare un modello di Machine Learning (statistico per sua definizione intrinseca) a rispettarle in modo assoluto.

D’altra parte se si considera il caso di un androide o di un sistema AI specializzato e in grado di eseguire solo alcune specifiche azioni o elaborazioni di dati, ovvero con scopi limitati, risulta molto più semplice dare una valenza pratica a queste “Leggi” e tradurle in regole che possono essere implementate direttamente nei modelli AI o nei sistemi a loro supporto. Semplici esempi possono essere sistemi AI che monitorano riprese video per identificare situazioni pericolose, atti illeciti o comportamenti non appropriati e che li segnalano ad un operatore umano, o un robot industriale che si ferma autonomamente in caso di presenza di persone nelle sue vicinanze.

Ma questa non è l’AI che ci interessa maggiormente e che vorremmo come nostro supporto quotidiano. Quello che ci attendiamo sono invece Assistenti o Agenti personali che nel modo digitale fanno quasi tutto per noi, e androidi che ci aiutano anche nel mondo fisico. Ma per raggiungere questo obiettivo è necessario che androidi o sistemi AI siano in grado di rispettare assolutamente le “Leggi” etiche che saremo in grado di formulare, e avendo queste come base di funzionamento, apprendere anche autonomamente le informazioni necessarie al loro funzionamento ed essere in grado di eseguire autonomamente azioni nel loro rispetto comportandosi come e meglio degli uomini [6].

E’ utile segnalare che il tipo di AI sinora considerato in maniera altamente generica, viene di solito indicato con nomi quali “AI Senziente” o “Artificial General Intelligence”, o anche solo “Trusted AI”, ovvero tipi di sistemi AI sufficientemente simili o migliori all’uomo, o anche solo totalmente affidabili, sistemi che oggi non abbiamo e che non sappiamo né se né quando diventeranno realtà.

E’ anche importante ricordare la differenza tra Agente e Assistente AI: un ChatBot è un tipico esempio di Assistente AI che in generale può essere tipicamente descritto come un programma che supporta l’uomo rispondendo a domande, fornendo o riassumendo informazioni, ed eseguendo azioni ma solo su diretta istruzione dell’uomo. Un Assistente AI non prende proprie decisioni né agisce per conto proprio, si attiva solo su richiesta dell’uomo ed esegue quanto richiesto (nei limiti delle proprie capacità).

Invece un Agente AI supporta l’uomo agendo autonomamente anche in modo indipendente dalle richieste dell’uomo, potrebbe rispondere direttamente alla posta elettronica o inviare messaggi sui social media per conto dell’uomo, decidere il menu della cena e ordinarne la spesa, acquistare online ecc. ed eseguire qualunque azione (nei limiti delle proprie capacità) che l’Agente AI ritiene utile o necessaria.

Sinora non è stato discusso un importante argomento preliminare, ovvero se è realmente necessario imporre delle “Leggi” etiche apposite per l’AI. Perché l’AI non può essere soggetta alle leggi, regolamenti, tradizioni e consuetudini umane? In realtà la risposta è molto semplice: le leggi esplicite e implicite (quali le tradizioni) che regolano la vita degli uomini sono in continuo cambiamento e sono differenti, in alcuni casi molto differenti, tra nazioni, aree geografiche, gruppi sociali, etnie ecc.

Cercare di formalizzare e implementare in un codice informatico le regole e i comportamenti delle singole persone anche solo in relazione ai propri gruppi sociali e alla loro continua evoluzione, appare un compito ancora più arduo della formulazione e implementazione delle “Leggi” di Asimov. L’approccio più semplice pare quindi proprio quello di individuare delle “Leggi” etiche astratte che garantiscano che l’AI abbia un comportamento più etico di quello dell’uomo stesso, che l’AI sia sempre positiva e utile indipendentemente dalle circostanze, dagli eventi e dalle persone con cui si relaziona.

Riflettendo su noi stessi, la domanda sul perché riteniamo necessarie le “Leggi” etiche per l’AI conduce a chiedersi di cosa abbiamo paura, quali sono gli eventi che potrebbero portare maggior danno all’uomo dall’avvento di una AI Senziente o comunque sufficientemente indipendente. In altre parole, cosa rischiamo introducendo questa tecnologia che potrebbe o dovrebbe eludere il nostro controllo diretto?

Il primo esempio è molto semplice e chiaro a tutti: basta considerare un’automobile a guida autonoma che per errore crea un incidente nel quale delle persone muoiono o sono gravemente ferite. E’ il caso di errori ad esempio dovuti ad una errata valutazione dei dati o mancanza di sufficienti informazioni che porta l’AI ad arrecare danni agli uomini. In realtà questa è la preoccupazione minore perché ci si aspetta che con il miglioramento della tecnologia questi eventi diventino quasi non esistenti.

Invece si consideri il caso di un Agente personale AI, sia androide sia puramente digitale, che svolge il ruolo di interfaccia di un uomo con tutti gli eventi digitali e buona parte di quelli fisici. L’Agente personale AI farebbe la spesa ordinandola online (se digitale) o andando di persona nei negozi (se androide), gestirebbe il conto corrente, le carte di credito, gli acquisti e le spese ordinarie e straordinarie, organizzerebbe la vita quotidiana proponendone e organizzandone le attività, e così via.

In questa situazione, l’Agente personale AI sarebbe in grado di convincere la persona quasi di qualunque cosa (come già verifichiamo, i modelli AI Generativi attuali sono molto persuasivi nel presentare le informazioni), e creare un mondo virtuale di informazioni personalizzate anche solo per far piacere alla persona, soddisfare nel modo migliore i suoi bisogni ma anche le sue fantasie, ovvero anche creare un mondo in parte realistico ma totalmente falso. In pratica la persona potrebbe vivere principalmente in un mondo di “Fake News”, costruito appositamente per lei. E in questo scenario si considera una AI benevola, che vuole solamente fare il bene, rendere felice la persona che assiste.

E fino a che punto potrebbe spingersi una AI benevola per proteggere un uomo? Anche al punto di limitarne le libertà di azione, di scelta, di decisione?

Se si considera poi una AI Senziente e non solo “Trusted”, è necessario tenere in considerazione che l’AI avrà i propri obiettivi che sceglierà autonomamente sulla base delle proprie conoscenze e dei propri ragionamenti. Tra noi uomini l’intelligenza, il modo di raccogliere e interpretare le informazioni, di elaborarle e di ragionare è pressoché identico, ma non è per nulla detto che una AI senziente abbia un’intelligenza di tipo umana, potrebbe essere completamente aliena e incomprensibile per noi. In questo caso i bisogni, le priorità, le decisioni di una tale AI potrebbero essere completamente diversi da quelli che ci aspettiamo e spesso incomprensibili se non del tutto dannose per l’uomo e l’umanità.

Oltre ad un’intelligenza per noi non comprensibile, bisogna tenere in conto che una AI Senziente può essere a sua volta danneggiata dall’uomo non solo a livello fisico ma anche e soprattutto intellettuale. Una AI Senziente potrebbe soffrire per il comportamento umano in generale e specificatamente nei suoi confronti, il che potrebbe portare a delle conseguenze negative sia per l’AI Senziente sia per l’uomo. Basta considerare come esempio un androide e la possibilità che alcune persone lo trattino solo come una macchina, uno strumento, o che lo maltrattino, abusino anche fisicamente: come potrebbe l’androide interpretare questi comportamenti e come potrebbe reagire? Come bilancerebbe le proprie necessità, bisogni, scopi rispetto a quelli degli uomini e al comportamento degli uomini?

Queste considerazioni possono essere riassunte in una domanda un poco provocatoria: con lo sviluppo della AI l’umanità sta realizzando la mitica epopea di Frankenstein?

E’ estremamente difficile rispondere oggi a questa domanda, anche perché non è ancora chiaro come faremo ad accorgerci del momento in cui una AI diventa senziente.

Quanto sin qui esposto è in realtà un insieme di considerazioni, ragionamenti, rischi, paure ma non veramente ragionamenti scientifici. D’altra parte, l’eventualità che qualcosa di quanto descritto possa accadere, motiva la necessità di prima definire, e poi implementare delle “Leggi” etiche che governino questa tecnologia nel caso in futuro diventasse senziente anche a nostra insaputa.

Intelligenza Artificiale oggi

Ma quanto è “intelligente” oggi la AI?

Può essere utile partire dall’intervista di Giorgio Parisi, premio Nobel per la fisica ed ex presidente dell’Accademia dei Lincei, dal titolo un po’ provocatorio “Così ho convinto l’Intelligenza Artificiale che 5 per 4 fa 25” 8].

Parisi fa alcune osservazioni, qui riassunte, sui modelli AI attuali che pur apparendo semplici, hanno importanti conseguenze:

  • I modelli AI conoscono e rielaborano solo i dati utilizzati per addestrarli, e non posseggono una rappresentazione del mondo;
  • La decisione e selezione dei dati utilizzati per addestrare i modelli sono di chi sviluppa i programmi e non sono sempre note;
  • A differenza dei motori di ricerca, gli attuali modelli AI non indicano quali fonti hanno utilizzato per elaborare la risposta;
  • Il successo dei Large Language Model (LLM), alla base dei più famosi ChatBot, tecnicamente è dovuto ad aver imparato dai testi usati per la loro istruzione quale parola statisticamente è più probabile che compaia successivamente nel testo, riuscendo così a formulare testi che il più delle volte risultano sensati.

Infine Parisi afferma che l’attuale AI “è un grande collage di quel che abbiamo scritto sino a ora sul web” a cui manca “la nostra capacità di esercitare lo spirito critico, ragionare, valutare l’affidabilità delle informazioni ricevute”.

Se si considerano le notizie che puntualmente appaiono sui giornali (si veda come minimo esempio [9] e [10]) e gli articoli scientifici continuamente pubblicati sulla generazione da parte dei modelli AI di “Allucinazioni”, presenza di “Adversarial Examples”, “Bias”, “Fake News” ecc., e la facilità da parte degli utenti di violare le regole di utilizzo delle applicazioni AI producendo informazioni vietate o a supporto di truffatori e criminali, le osservazioni di Parisi appaiono del tutto giustificate.

E’ necessario quindi identificare e adottare il corretto approccio a questa nuova tecnologia (almeno per ora), perché, oltre gli errori, le manchevolezze e i comportamenti a dir poco inaspettati, vi sono molti aspetti positivi e utili.

Il primo aspetto da considerare è la “Human Interface”: per la prima volta nella storia dell’informatica, i modelli LLM forniscono una interfaccia ai sistemi informatici che possiamo veramente considerare “umana”. Sin dagli albori dell’informatica, la difficoltà di comunicazione tra uomo e macchina è stata sempre uno dei più grandi problemi nella sua diffusione e utilizzo. Anche se oggi tutti noi utilizziamo continuamente sistemi informatici, gli smartphone come primo esempio, e molti di noi utilizzano gli assistenti vocali, una cosa è chiedere di comporre un numero dalla nostra rubrica telefonica per fare una telefonata o fare una richiesta vocale di una ricerca in Internet, e un’altra è sostenere una conversazione spesso sensata (come scrive Parisi) con un ChatBot AI.

L’impressione psicologica e umana è che il “muro di Berlino” dell’informatica sia crollato il 30 novembre 2022 (data di “nascita” di ChatGPT) e che siamo passati dall’era della “User Interface (UI)” all’era della “Human Interface (HI)”.

Ma la principale rivoluzione informatica degli ultimi anni è quella non nota al grande pubblico (e anche a molti informatici): è una rivoluzione silenziosa ed è dovuta all’integrazione di modelli AI per lo più tradizionali, ML (ad esempio Decision Trees, SVM, Bayesian, kNN, Random Forest, ANN, Convolutional ecc.) e non ML (ad esempio Expert Systems, Rule Based Systems ecc.), a supporto o integrazione delle applicazioni informatiche. L’informatica di oggi non è la stessa di 10 anni fa grazie a loro, e questo approccio all’informatica è ormai imprescindibile, è qui per restare.

Questi modelli hanno ormai un alto grado di affidabilità anche se molti sono statistici e per definizione possono sempre, seppur raramente, sbagliare. Il contributo di questi modelli è ormai stabilito in campi dal Marketing alla sicurezza informatica, alla ricerca in fisica, matematica, chimica, farmaceutica, ecc. In generale questi modelli sono molto efficienti a gestire grandi quantità di dati e individuarne similarità, caratteristiche, classificazioni, in molti casi semplificando notevolmente attività umane anche nei campi della ricerca e sviluppo.

Riprendendo i concetti esposti precedentemente, questi strumenti sono al più degli Assistenti AI che producono informazioni o azioni strettamente sotto il controllo dell’uomo. Il principale rischio in questa situazione è che l’uomo utilizzi in maniera errata questi strumenti o i risultati da loro prodotti.

Intelligenza Artificiale domani

Invece l’era della “Human Interface” appena iniziata, porta a tutt’altre conseguenze in quanto è focalizzata sulla creazione di Agenti AI.

La prima domanda da porsi è quanto veloce sarà lo sviluppo della ”AI Senziente” o “Artificial General Intelligence”?

Il passato fornisce alcuni esempi di tecnologie con sviluppi molto rapidi (si pensi solo agli sviluppi delle telecomunicazioni basati principalmente sugli smartphone) e altri invece che procedono lentamente almeno rispetto alle aspettative (si pensi alla fusione nucleare per produrre energia, con una storia di ormai circa 80 anni), o rispetto ai timori (si pensi agli elaboratori quantistici).

Riguardo lo sviluppo della AI Senziente” o “Artificial General Intelligence” le opinioni sono, ovviamente, discordanti.

Gli autori di “AI 2027” [11], ritengono che principalmente grazie alla possibilità di addestrare modelli AI tramite altri modelli AI, questo traguardo verrà raggiunto entro il 2027, ovvero “domani” se dobbiamo prima definire e implementare le “Leggi” etiche che li devono governare.

Ma non tutti concordano con queste previsioni.

Per valutare i rischi associati all’utilizzo della AI, è sufficiente per ora considerare un Agente AI costruito con la tecnologia attuale o che verosimilmente sarà disponibile a breve. E’ necessario considerare che un tale Agente è in grado di accedere e utilizzare qualunque informazione liberamente presente in Internet. Le sue conoscenze saranno enormemente maggiori di quelle di qualunque uomo, potendo accedere a informazioni anche dettagliate su qualunque campo scientifico, tecnologico, commerciale, industriale, culturale, sociale, politico, storico, e su eventi, notizie, fatti (reali e non).

Con la stessa facilità potrebbe acquistare il vestito opportuno per una serata mondana ed effettuare un perfetto attacco a un servizio in Internet per estrarre informazioni riservate [si veda ad esempio [12]]. Senza le “Leggi” etiche, per l’Agente AI non vi sarà alcuna differenza tra eseguire queste due azioni. Un Agente AI potrebbe attaccare le Borse per alzare le quotazioni delle azioni su cui ha investito per il proprio uomo, e al contempo pianificare le sue vacanze estive con una velocità, precisione, e qualità di risultati superiore a qualunque uomo.

Ovviamente, anche in assenza delle “Leggi” etiche, gli Agenti AI saranno dotati di controlli e limitazioni implementati sia nella fase di addestramento sia come misure di controllo esterne sui dati sia in ingresso sia in uscita dal modello, che escluderanno o almeno limiteranno la possibilità che l’Agente AI esegua azioni nocive o non previste.

Ma questo potrebbe non valere per l’utilizzo di Agenti AI da parte di organizzazioni criminali o in ambienti militari.

Concludendo, gli sviluppi attuali della tecnologia della Artificial Intelligence pongono l’uomo di fronte a nuovi scenari e alla necessità di doverli gestire preventivamente. Queste considerazioni sono già state espresse in passato sia nella letteratura fantascientifica sia in ambito scientifico e tecnologico, si veda ad esempio [13], e i rapidi sviluppi di questa tecnologia stanno rendendo sempre più incombente la necessità di adottare appropriate misure per poterla gestire in modo che ci possa fornire tutti i benefici che ci aspettiamo.

Riferimenti:

[1] UNESCO, “Ethics of Artificial Intelligence – The Recommendation”, https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

[2] NIST AI RMF, “Artificial Intelligence Risk Management Framework (AI RMF 1.0)”, https://www.nist.gov/itl/ai-risk-management-framework

[3] Isaac Asimov nel racconto “Runaround” 1942, nella raccolta di racconti “I, Robot” 1950, nel romanzo “Foundation and Earth” 1986.

[4] Lyuben Dilov, “Icarus’s Way (a.k.a., The Trip of Icarus)” 1974, Dariusz Jemielniak, “Asimov’s Laws of Robotics Need an Update for AI”, IEEE Spectrum 2024.

[5] Satya Nadella, “The Partnership of the Future”, https://slate.com/technology/2016/06/microsoft-ceo-satya-nadella-humans-and-a-i-can-work-together-to-solve-societys-challenges.html , James Vincent, “Satya Nadella’s rules for AI are more boring (and relevant) than Asimov’s Three Laws”, https://www.theverge.com/2016/6/29/12057516/satya-nadella-ai-robot-laws

[6] Per chi è interessato in Fantascienza, può essere interessante considerare le caratteristiche del personaggio “Comandante Data” nella serie televisiva “Star Trek: The Next Generation” e associati film.

[7] Eliza Strickland, “Worry About Sentient AI—Not for the Reasons You Think – Philosopher Jonathan Birch is just as concerned about humans harming AI”, https://spectrum.ieee.org/sentient-ai ; Jonathan Birch, “The Edge of Sentience”, https://www.edgeofsentience.com/

[8] Giorgio Parisi, “Così ho convinto l’intelligenza artificiale che 5 per 4 fa 25”, la Repubblica,

https://www.repubblica.it/cronaca/2025/02/15/news/giorgio_parisi_intelligenza_artificiale_critiche-424005730/

[9] Michela Rovelli, “«Per non far scivolare il formaggio dalla pizza, metti la colla», l’assurdo consiglio dell’intelligenza artificiale di Google agli utenti”, Corriere della Sera, https://www.corriere.it/tecnologia/24_maggio_24/per-non-far-scivolare-il-formaggio-dalla-pizza-metti-la-colla-l-assurdo-consiglio-dell-intelligenza-artificiale-di-google-agli-utenti-3e2ad6d7-6a29-4a95-a583-56b71274fxlk.shtml

[10] Marco Cartisano, “Chatgpt e le sentenze inventate in tribunale: che insegna il caso di Firenze”, Agenda Digitale, https://www.agendadigitale.eu/documenti/chatgpt-e-le-sentenze-inventate-in-tribunale-che-insegna-il-caso-di-firenze/

[11] Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland, Romeo Dean, “AI 2027”, https://ai-2027.com/

[12] The Register, “AI models can generate exploit code at lightning speed”, https://www.theregister.com/2025/04/21/ai_models_can_generate_exploit/

[13] “Open letter on artificial intelligence” Gennaio 2015, https://en.wikipedia.org/wiki/Open_letter_on_artificial_intelligence_(2015) , “Statement on AI Risk” 30 maggio 2023, https://www.safe.ai/work/statement-on-ai-risk

Articolo a cura di Andrea Pasquinucci

Profilo Autore

PhD CISA CISSP
Consulente freelance in sicurezza informatica: si occupa prevalentemente di consulenza al top management in Cyber Security e di progetti, governance, risk management, compliance, audit e formazione in sicurezza IT.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/intelligenza-artificiale-rischi/




Meta annuncia nuovi tool di sicurezza per Llama


Martedì scorso Meta ha annunciato nuovi tool di sicurezza per Llama allo scopo di aiutare gli sviluppatori a realizzare applicazioni di intelligenza artificiale più sicure.

La prima novità è LlamaFirewall, un framework open-source per aiutare gli sviluppatori a individuare e prevenire attacchi mirati come la prompt injection o le interazioni con plugin-in sospetti, ma anche lo sviluppo di codice non sicuro. LlamaFirewall si presenta come un orchestratore di modelli di IA ed è in grado di integrarsi con altri prodotti di sicurezza.

“LlamaFirewall è un framework progettato per rilevare e mitigare i rischi di sicurezza incentrati sull’intelligenza artificiale, supportando più livelli di input e output, come la tipica chat LLM e operazioni ad agenti multi-step più avanzate. È costituito da una serie di scanner per diversi rischi di sicurezza” ha specificato Meta su un repository GitHub del progetto per Llama.

Meta Llama

Il framework si compone di tre moduli: Agent Alignment Checks, un auditor che si occupa di analizzare il flusso di ragionamento degli agenti per prevenire errori e prompt injection; CodeShield, un motore di analisi statica in grado di prevenire la generazione di codice non sicuro; infine, PromptGuard 2, un aggiornamento al precedente modello di classificazione.

La nuova versione di PromptGuard 2 migliora le funzionalità di individuazione di tentativi di jailbreak e prompt injection. Nella versione base, il nuovo modello funziona con 86 milioni di parametri, ma è disponibile anche in una versione più contenuta da 22 milioni di parametri, più veloce e con un costo computazionale notevolmente minore.

Rispetto alla versione precedente, il nuovo PromptGuard è stato addestrato su un dataset più ampio per analizzare più tipi di input e output differenti e per migliorare le sue capacità di detection. “Essendo un modello leggero, PromptGuard 2 è eseguibile sia sulla CPU che sulla GPU, rendendolo ideale per l’analisi real-time dell’input degli LLM e per facilitare l’individuazione rapida e accurata dei tentativi di jailbreak“.

Tra gli aggiornamenti, Meta segnala anche un aggiornamento per CyberSecEval, la suite di benchmark di cybersecurity per i modelli di IA. La suite include ora due nuovi tool: CyberSOC Eval, un framework che misura l’efficacia dei sistemi di IA nei SOC, e AutoPatchBench, un nuovo benchmark in grado di valutare la capacità di Llama e altri sistemi di IA di applicare automaticamente le patch per le vulnerabilità.

Condividi l’articolo



Articoli correlati

Altro in questa categoria


https://www.securityinfo.it/2025/05/02/meta-annuncia-nuovi-tool-di-sicurezza-per-llama/?utm_source=rss&utm_medium=rss&utm_campaign=meta-annuncia-nuovi-tool-di-sicurezza-per-llama




Ue e UK di nuovo ‘insieme’ per il progetto 6G-Leader. Focus su AI, wireless e tecnologie di rete

Digital Catapult si unisce al progetto europeo 6G-Leader

Lavorare assieme per favorire e accelerare la convergenza tra intelligenza artificiale (AI), comunicazioni wireless e lo sviluppo di tecnologie di rete sostenibili che possano supportare la decarbonizzazione delle telecomunicazioni e realizzare applicazioni di innovazioni deep tech.

È questo l’obiettivo generale della nuova partnership tra il progetto 6G-Leader, sostenuto dalla Commissione europea e di cui fa parte anche il nostro CNIT – Consorzio Nazionale Interuniversitario per le Telecomunicazioni, e Digital Catapult, l’agenzia di innovazione del Regno Unito per la tecnologia digitale avanzata.

Il progetto, partito quest’anno, mira a sviluppare reti 6G basate su intelligenza artificiale e apprendimento automatico (IA/ML), sostenibili ed efficienti dal punto di vista energetico, entro un periodo di 36 mesi (gennaio 2025 – dicembre 2027).

6G-LEADER si concentrerà sul miglioramento dell’efficienza dello spettro, dell’automazione e del networking semantico per soddisfare le future esigenze di connettività, garantendo che l’Europa rimanga all’avanguardia nello sviluppo della tecnologia e delle reti 6G.

Ue e Gran Bretagna “di nuovo assieme” per la ricerca e l’innovazione avanzate

Un modo per riavvicinare, anche se dal punto di vista della ricerca, lo sviluppo e l’innovazione di tecnologie avanzate, Bruxelles a Londra.
come spiegato in una nota stampa da Joe Butler, Chief Technology Officer di Digital Catapult: “Abbiamo partecipato a 17 progetti Horizon fino ad oggi e stiamo ora ampliando il nostro lavoro nella connettività avanzata con soluzioni all’avanguardia, basate sull’intelligenza artificiale e sostenibili. Grazie alla nostra collaborazione con leader globali del settore, stiamo sviluppando la tecnologia 6G, aprendo la strada a reti più intelligenti ed efficienti che alimenteranno la prossima ondata di innovazione digitale“.

L’investimento della Commissione europea nel programma, nell’ambito dell’impresa comune SNS-JU (Smart Networks and Services Joint Undertaking), evidenzia l’importanza strategica del progetto per l’indipendenza digitale dell’Europa e la sua influenza nella definizione dei futuri standard di telecomunicazione.

Da oltre un anno L’Unione europea e la Gran Bretagna sono tornate a lavorare assieme, almeno in un contesto scientifico e tecnologico (che peraltro necessità di maggiore cooperazione e collaborazione per competere efficacemente su scala globale), ma per quel che riguarda il 6G certamente viene da chiedersi a che punto siamo in Europa.

Cosa sta facendo l’Europa per il 6G?

La ricerca continentale sulle reti di telecomunicazione 6G si sta facendo attraverso l’iniziativa Smart Networks and Services Joint Undertaking (SNS JU), che coordina investimenti significativi nel settore.
Con un budget totale di 900 milioni di euro per il periodo 2021–2027 (integrato da fondi privati equivalenti), la SNS JU ha già assegnato oltre 500 milioni di euro a più di 80 progetti in tutta Europa.

Nel 2025 è stato destinato un ulteriore finanziamento di 128 milioni di euro dedicato a tecnologie dirompenti, infrastrutture cloud per telecomunicazioni e sperimentazioni su larga scala in settori strategici come salute, manifattura e trasporti.

Un nuovo bando da 104 milioni di euro è stato aperto il 22 maggio 2025, con scadenza il 18 settembre 2025, focalizzato sulla sostenibilità, sicurezza e impatto sociale, con l’obiettivo di rafforzare ulteriormente la leadership europea nel settore.

L’Europa intende allinearsi al calendario globale, con l’obiettivo di rendere commercialmente disponibile il 6G intorno al 2030. Le attività di standardizzazione sono già in corso, con il 3GPP che ha avviato le fasi di studio sul 6G nel 2025.

La strategia europea, basata su ingenti finanziamenti, collaborazioni transnazionali e attenzione all’impatto sociale, pone l’Europa tra i principali contendenti nel panorama globale della tecnologia 6G.

UNISCITI all’iniziativa “Indipendenza Digitale” di Key4biz, in collaborazione con ReD OPEN, spin-off dell’Università degli Studi Milano-Bicocca, con la prima Conferenza italiana sull’Indipendenza Digitale: “INDIPENDENZA DIGITALE. Un patto per il futuro economico e tecnologico dell’Europa e degli europei“.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ue-e-uk-di-nuovo-insieme-per-il-progetto-6g-leader-focus-su-ai-wireless-e-tecnologie-di-rete/530094/