AIIA, lo strumento per una governance responsabile dell’Intelligenza Artificiale

Nel contesto attuale, caratterizzato dalla crescente pervasività dell’Intelligenza Artificiale, agli iniziali entusiasmi per il potenziale innovativo di questa tecnologia stanno seguendo importanti riflessioni circa i suoi potenziali rischi.

È noto come l’Artificial Intelligence Act dell’Unione Europea, approvato nel marzo 2024, abbia introdotto l’obbligo di condurre valutazioni d’impatto per i sistemi AI ritenuti “ad alto rischio”.

Tale scelta riflette la crescente consapevolezza che l’AI – pur offrendo enormi opportunità – può comportare, se non adeguatamente regolamentata e monitorata, pericoli significativi: fra questi le possibilità di errori o bias sottesi alle decisioni automatizzate, nonché l’impiego di strumenti basati sull’AI a fini di manipolazione o distorsione dei processi democratici.

La medesima consapevolezza è alla base della recente Convenzione Quadro del Consiglio d’Europa che stabilisce regole condivise circa l’impatto dell’Intelligenza Artificiale in campo di “Human Rights, Democracy and the Rule of Law”.

AI Impact Assessment: scopi, principi ed elementi chiave

Da simili considerazioni ha origine l’AI Impact Assessment (AIIA), finalizzato proprio a valutare gli impatti dei sistemi basati sull’Intelligenza Artificiale.

In concreto si tratta di un processo di valutazione ad ampio raggio teso a identificare, analizzare e mitigare i potenziali impatti negativi dell’AI sulla società, l’economia e i diritti individuali.

Considerata la costante evoluzione delle tecnologie interessate, esso dovrebbe essere concepito come un processo iterativo che accompagni i sistemi AI lungo tutto il loro ciclo di vita, partendo dalla progettazione per arrivare fino alle fasi di sviluppo e implementazione.

L’AI Impact Assessment si svolge alla luce dei principi condivisi a livello internazionale in tema di “safe and trustworthy AI”, in particolare:

  • accountability and transparency;
  • fairness, safety, security and resilience;
  • explainability and interpretability;
  • validity and reliability;
  • privacy.

Allo scopo di valutare i potenziali impatti dei sistemi AI, vanno considerati diversi elementi chiave.

  1. Analisi del contesto: valutazione dell’ambiente in cui il sistema verrà utilizzato.
  2. Identificazione degli stakeholder: mappatura di tutti i soggetti potenzialmente influenzati dal sistema.
  3. Valutazione dei rischi: identificazione e quantificazione dei possibili impatti negativi.
  4. Misure di mitigazione: sviluppo di strategie per ridurre o eliminare i rischi identificati.
  5. Monitoraggio continuo: implementazione di meccanismi per valutare l’impatto del sistema nel tempo.

Il Joint Research Centre (JRC) della Commissione Europea sottolinea l’importanza di coinvolgere in tale processo esperti di diverse aree – dai profili più tecnici agli esperti di etica, diritto e scienze sociali – per garantire che la valutazione avvenga secondo un approccio sistemico e multidisciplinare.

La diffusione dell’AIIA in Italia e nel mondo

Nel documento “State of implementation of the OECD AI Principles”, l’OCSE evidenzia come diversi paesi stiano già adottando framework specifici per l’AIIA.

A titolo di esempio il Canada ha sviluppato uno strumento di valutazione dell’impatto algoritmico per le agenzie governative, mentre il Regno Unito ha introdotto delle linee guida per l’uso etico dell’AI nel settore pubblico.

Sempre rispetto al mondo dei pubblici servizi – ove il bilanciamento fra tecnologie emergenti e diritti dei cittadini appare particolarmente complesso – il rapporto “AI WATCH: Artificial Intelligence for the public sector” del già citato JRC richiama, quali esempi “virtuosi”, le strategie di AI Governance messe in atto da Spagna e Norvegia.

Anche in Italia il tema è oggetto di attenzione da parte degli organismi regolatori: sin dal 2020, il Comitato Nazionale per la Bioetica citava l’importanza di integrare le valutazioni d’impatto dell’AI con considerazioni etiche, in particolare rispetto alla possibilità di errori o alle sue potenziali ricadute discriminatorie verso i cittadini.

Nel parere “Intelligenza Artificiale e Medicina: aspetti etici” il Comitato raccomanda infatti che l’AIIA includa una valutazione approfondita delle implicazioni etiche, soprattutto in ambiti sensibili come la sanità, sottolineando “la rilevanza di strumenti che garantiscano l’affidabilità della IA, mediante validazione, e riducano, nei limiti del possibile, l’opacità, gli errori e le possibili discriminazioni dovute a cause tecnologiche e/o umane”.

Il futuro dell’AIIA tra compliance e innovazione

L’AI Impact Assessment si configura, quindi, come un elemento chiave nella governance responsabile dell’Intelligenza Artificiale: esso può rappresentare un ponte tra innovazione tecnologica e tutela dei diritti individuali, contribuendo a creare ecosistemi AI che siano non solo avanzati ma anche etici, sostenibili e rispettosi delle persone.

La sfida per il futuro sarà quella di standardizzare le metodologie di AIIA, garantendo al contempo la flessibilità necessaria per adattarsi ai rapidi progressi tecnologici e alle diverse esigenze di settore.

Sarà inoltre essenziale promuovere una cultura della valutazione d’impatto tra gli sviluppatori e gli implementatori di sistemi AI, affinché l’AIIA non si riduca a mero adempimento normativo ma diventi una prassi consolidata e condivisa, cruciale anche per garantirsi la piena fiducia degli utenti finali.

In conclusione, l’AI Impact Assessment si sta affermando come strumento indispensabile per guidare un’adozione responsabile dell’Intelligenza Artificiale, raccogliendo le preoccupazioni circa i suoi potenziali effetti nocivi e contribuendo a plasmare un futuro in cui l’innovazione tecnologica proceda di pari passo con il benessere sociale ed economico, nonché con la tutela dei diritti fondamentali.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/articoli/aiia-lo-strumento-per-una-governance-responsabile-dellintelligenza-artificiale/




Intelligenza Artificiale e Governance, il documento di analisi del Senato

L’Intelligenza Artificiale resta la protagonista indiscussa del dibattito contemporaneo. Dato l’impatto dirompente dell’AI sulla vita pubblica e privata, le relative tecnologie appaiono oggetto di un’intensa attività normativa – sia nazionale, sia internazionale – tesa a disciplinarne principi, conseguenze ed effetti sui cittadini.

Nel solco di questo sforzo regolatorio si colloca anche il Documento di analisi n. 31, intitolato “Intelligenza artificiale: governance, responsabilità e privacy. L’impatto sul quadro normativo dei sistemi che mostrano un comportamento intelligente”, appena diffuso dall’Ufficio Valutazione Impatto (UVI) del Senato della Repubblica Italiana.

Intelligenza Artificiale: Definizioni, impatti e regolamentazione

Il testo parte dalla definizione di Intelligenza Artificiale adottata dalla Commissione europea nella Comunicazione (2018) 237, a norma della quale essa riguarda “sistemi che mostrano un comportamento intelligente, analizzando il proprio ambiente e compiendo azioni, con un certo grado di autonomia, per raggiungere specifici obiettivi”.

A seguire il documento ripercorre l’evoluzione dell’AI dal test di Turing ai Large Language Models (LMM), per arrivare ad analizzarne l’attuale stato di sviluppo e a riconoscerne l’ormai consolidata rilevanza in “tutte le attività dell’uomo, con ricadute non solo sul piano tecnologico ma anche giuridico, economico e sociale”.

Sul piano regolatorio vengono richiamati anzitutto gli atti dell’Unione Europea, come il Libro Bianco sull’intelligenza artificiale del 2020 e l’Artificial Intelligence Act (AIA), elaborato già a partire dall’anno successivo ma approvato nel 2024, che rappresenta il primo atto normativo al mondo teso a disciplinare compiutamente la materia.

Vengono citati anche il principio di trasparenza e l’approccio risk-based previsti dal legislatore comunitario, che sceglie di graduare i livelli di rischio – minimo, alto, inaccettabile – legati all’utilizzo dell’IA, imponendo regole via via più rigorose quanto maggiore sia il livello individuato.

Si menzionano inoltre l’Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence emanato dalla Casa Bianca nel 2023 e le norme adottate al riguardo da altri Paesi quali Cina, Svizzera e UK; nonché le iniziative di organizzazioni sovranazionali come l’ONU e il Consiglio d’Europa.

In particolare si ricorda come quest’ultimo abbia recentemente elaborato la Framework convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law, che sarà aperta alla firma a partire dal prossimo settembre.

Aspetti critici e responsabilità derivanti dall’uso dell’Intelligenza Artificiale

Il documento passa, poi, ad analizzare le problematiche connesse all’adozione dei sistemi di Intelligenza Artificiale.

La prima difficoltà individuata è l’assenza di una normativa specifica circa la responsabilità per i danni derivanti dai sistemi AI, che secondo un’indagine del 2020 rappresenta uno dei principali ostacoli alla sua adozione da parte delle imprese.

Da qui, l’opportunità di “integrare tale disciplina per poter fornire una maggiore tutela ai consumatori e agli operatori economici in tutto il Mercato comune europeo”.

Nel testo si ricorda che l’Italia è stata “tra i primi Stati membri a introdurre una disposizione sulla responsabilità civile per i veicoli a guida automatica, prevedendo l’obbligo di assicurazione per veicoli dotati «di tecnologie capaci di adottare e attuare comportamenti di guida senza l’intervento attivo del guidatore, in determinati ambiti stradali e condizioni esterne»”.

Infografica: intelligenza artificiale, privacy e governance -Rischi e trasparenza. Livelli di Rischio dei sistemi di Intelligenza artificiale e requisiti di trasparenza. Livelli di rischio AI: minimo, alto, inaccettabile. Requisiti di trasparenza crescenti per sistemi AI ad alto rischio. Governance AI: bilanciare innovazione ed etica. Privacy e AI: sfide e tutele nel quadro normativo UE

Fonte: Commissione europea

Vengono poi considerate le questioni relative al diritto d’autore, ricordando che da un lato “l’utilizzo di IA generativa pone delle criticità in relazione al materiale utilizzato per il cosiddetto training dei modelli stessi” e che, dall’altro, “si pone il problema della protezione del prodotto creato tramite strumenti di intelligenza artificiale generativa”.

Citando lo Study on the impact of Artificial Intelligence on the infringement and enforcement of copyright and designs pubblicato dall’European Union Intellectual Property Office (EUIPO) nel 2022, si sottolinea che “l’uso dell’IA è connesso a molteplici opportunità, drivers, limiti e preoccupazioni rispetto al rischio di violazione dei diritti di proprietà intellettuale”; concludendo che “nel disciplinare la protezione giuridica […] dovranno essere considerati fattori come il tipo di contenuto, il grado di intervento umano, la normativa applicabile (anche da un punto di vista di giurisdizione) e gli interessi che entreranno in gioco”.

Intelligenza Artificiale: Profili di Privacy e di Governance

L’ultima parte del documento di analisi si focalizza sugli aspetti legati alla protezione dei dati personali – facendo riferimento anche al complesso tema del Predictive Policing – e alla governance dell’AI.

Sotto il primo profilo si richiama ancora una volta l’AI Act, che contiene “disposizioni precise rispetto agli usi dell’IA ritenuti a rischio inaccettabile” vietando ad esempio “lo scraping non mirato delle immagini facciali, il riconoscimento delle emozioni sul luogo di lavoro e negli istituti di istruzione [e] la categorizzazione biometrica per dedurre dati sensibili, quali l’orientamento sessuale o le convinzioni religiose”.

In attesa della sua piena entrata in vigore si ricorda come abbiano trovato spazio vari interventi delle Autorità di settore, tra cui la limitazione provvisoria del trattamento dei dati degli utenti italiani imposta dal Garante Privacy italiano verso OpenAI.

Rispetto al secondo profilo, si sottolinea come esistano già diversi organismi deputati a coordinare le azioni di governance dell’Intelligenza Artificiale nel contesto comunitario.

Si tratta dell’Ufficio per l’IA e del Comitato europeo per l’IA, oltre alle nuove entità istituite dall’AIA: il “gruppo di esperti indipendenti” incaricato di fornire consulenze tecniche al suddetto Ufficio e il Forum consultivo, composto da una selezione di stakeholder rilevanti per la materia, che rappresenterà “un canale di feedback per la Commissione e il Consiglio, assicurando una rappresentazione bilanciata tra industria, start-up, PMI, società civile e ambiente accademico”.

In conclusione il documento del Senato, richiamando l’attività del legislatore nazionale – in particolare la Strategia Italiana per l’Intelligenza Artificiale 2024-2026, nella quale essa è considerata una “questione di sicurezza nazionale” – restituisce la complessità legata alla regolamentazione dell’Intelligenza Artificiale, ribadendo l’obiettivo di favorire “una trasformazione digitale inclusiva […] che sostenga la crescita economica e lo sviluppo sostenibile, in linea con i valori democratici condivisi e il rispetto dei diritti umani”.

L’Intelligenza Artificiale rappresenta una delle più grandi rivoluzioni tecnologiche della storia. Per coglierne appieno i benefici, minimizzando i rischi, è essenziale un approccio equilibrato che coniughi innovazione, etica e tutela dei diritti fondamentali. Solo attraverso una governance multilivello e un dialogo costante tra istituzioni, esperti e società civile sarà possibile plasmare un futuro in cui l’IA sia davvero al servizio dell’umanità.

AI Impact Assessment: valutare l’impatto dell’Intelligenza Artificiale

L’AI Impact Assessment (AIIA) sta emergendo come strumento cruciale per gestire i rischi e massimizzare i benefici dei sistemi di Intelligenza Artificiale. Questo processo di valutazione sistematica mira a identificare, analizzare e mitigare i potenziali impatti negativi dell’AI sulla società, l’economia e i diritti individuali.

L’Artificial Intelligence Act dell’UE introduce l’obbligo di condurre valutazioni d’impatto per i sistemi AI ad alto rischio. Questo requisito riflette la crescente consapevolezza che l’AI, pur offrendo enormi opportunità, può anche comportare rischi significativi se non adeguatamente regolamentata e monitorata.

Secondo il Joint Research Centre della Commissione Europea, l’AIIA dovrebbe essere concepito come un processo iterativo che accompagni lo sviluppo e l’implementazione dei sistemi AI lungo tutto il loro ciclo di vita.

Nel report “AI WATCH: Artificial Intelligence Impact Assessment”, il JRC sottolinea l’importanza di un approccio multidisciplinare che coinvolga esperti di diverse aree, dai tecnici agli esperti di etica e scienze sociali.

Gli elementi chiave di un AI Impact Assessment includono:

  1. Analisi del contesto: valutazione dell’ambiente in cui il sistema AI verrà utilizzato.
  2. Identificazione degli stakeholder: mappatura di tutti i soggetti potenzialmente influenzati dal sistema.
  3. Valutazione dei rischi: identificazione e quantificazione dei possibili impatti negativi.
  4. Misure di mitigazione: sviluppo di strategie per ridurre o eliminare i rischi identificati.
  5. Monitoraggio continuo: implementazione di meccanismi per valutare l’impatto del sistema nel tempo.

L’OCSE, nel suo documento “State of implementation of the OECD AI Principles”, evidenzia come diversi paesi stiano già adottando framework specifici per l’AIIA.

Ad esempio il Canada ha sviluppato uno strumento di valutazione dell’impatto algoritmico per le agenzie governative, mentre il Regno Unito ha introdotto delle linee guida per l’uso etico dell’AI nel settore pubblico.

In Italia, il Comitato Nazionale per la Bioetica ha sottolineato l’importanza di integrare le valutazioni d’impatto dell’AI con considerazioni etiche. Nel parere “Intelligenza Artificiale e Medicina: Aspetti Etici”, il Comitato raccomanda che l’AIIA includa una valutazione approfondita delle implicazioni etiche, soprattutto in ambiti sensibili come la sanità.

L’AI Impact Assessment si configura quindi come un elemento chiave nella governance responsabile dell’Intelligenza Artificiale. Esso rappresenta un ponte tra l’innovazione tecnologica e la tutela dei diritti individuali, contribuendo a creare ecosistemi AI che siano non solo avanzati, ma anche etici e sostenibili.

La sfida per il futuro sarà quella di standardizzare le metodologie di AIIA, garantendo al contempo la flessibilità necessaria per adattarsi ai rapidi progressi tecnologici e alle diverse esigenze settoriali. Sarà essenziale, inoltre, promuovere una cultura della valutazione d’impatto tra gli sviluppatori e gli implementatori di sistemi AI, affinché l’AIIA diventi una prassi consolidata e non un mero adempimento normativo.

In conclusione, l’AI Impact Assessment si sta affermando come uno strumento indispensabile per guidare lo sviluppo e l’adozione responsabile dell’Intelligenza Artificiale, contribuendo a plasmare un futuro in cui l’innovazione tecnologica proceda di pari passo con il benessere sociale e la tutela dei diritti fondamentali.

Condividi sui Social Network:

https://www.ictsecuritymagazine.com/notizie/intelligenza-artificiale/




Come sarà la nuova Alexa?

Rubrica settimanale SosTech, frutto della collaborazione tra Key4biz e SosTariffe. Per consultare gli articoli precedenti, clicca qui..

Se davvero si chiamerà “Remarkable Alexa”, come pare in questi giorni, non sarà facile considerarla altro da quello che è, cioè un’ammissione di colpa da parte di Amazon: significherebbe infatti che quella prima era “unremarkable”, insignificante. E non sembra neppure una valutazione troppo severa degli assistenti vocali di prima generazione, se si considerano le novità portate dall’intelligenza artificiale anche solo negli ultimi mesi.

Prendiamo la solita ChatGPT, che non è solo accessibile da PC ma anche da smartphone o altri dispositivi mobili e può essere interrogata usando la voce, tramite il microfono del proprio dispositivo, e “leggere” le proprie risposte: per molti utenti, con un servizio così continuare a dire “Alexa” o “Ehi Siri”, cercando di pronunciare le parole con le sfumature giuste per farsi capire e sperando di avere in cambio qualche informazione sensata, è del tutto inutile. Ed è pure gratuito, se non si vogliono i vantaggi dell’abbonamento al servizio di OpenAI (va ovviamente calcolato il costo della propria tariffa telefonica, ma c’è sempre SOSTariffe.it per trovare le più convenienti del momento).

In ogni caso, “remarkable” o meno, la nuova Alexa sta per debuttare, secondo i beninformati a ottobre di quest’anno, in tempo per la stagione delle festività negli Stati Uniti. Una su tutte, ovviamente: il Black Friday che proprio Amazon ha contribuito a rendere un appuntamento irrinunciabile per lo shopping mondiale prima delle feste natalizie, con il relativo seguito di Cyber Monday e simili appendici create per l’occasione. In questi giorni, l’azienda di Bezos ne approfitta per offrire con forti sconti tutta la sua gamma di dispositivi dotati di Alexa, in primo luogo gli smart speaker Echo, e fatturare miliardi; ma evidentemente anche Amazon ha capito che ormai questi gadget rischiano di sembrare al consumatore dei vetusti soprammobili elettronici, ed è il caso di dare una svecchiata alla voce che li anima per evitare il prossimo tracollo.

Ecco Claude, il futuro cuore di Alexa

Oggi Amazon – che anni fa aveva stupido il mondo con la prima Alexa, che sembrava uscita da un film di fantascienza – sta affrontando una competizione sempre più intensa nel mercato degli assistenti vocali. Rivali, si è detto, come OpenAI con la Modalità Vocale Avanzata di ChatGPT, Google con il sistema di chat vocale Gemini e Apple con Siri, che si prepara a lanciare un importante aggiornamento chiamato Apple Intelligence, stanno avanzando rapidamente con tecnologie innovative.

La nuova versione di Alexa sfrutterà quindi non ChatGPT (come, in un certo senso, accadrà con gli iPhone e Siri nella prossima versione di iOS), ma il modello di intelligenza artificiale generativa Claude, sviluppato da Anthropic, la startup in cui Amazon ha investito 4 miliardi di dollari nel 2023. La scelta di utilizzare Claude (e non una più agevole soluzione fatta in casa) è dovuta al fatto che le versioni iniziali basate sull’intelligenza artificiale interna di Amazon si sono dimostrate poco performanti, con tempi di risposta lenti e difficoltà a rispondere correttamente alle richieste degli utenti. Le prime versioni interne del nuovo assistente vocale hanno infatti evidenziato diversi limiti: alcuni utenti hanno segnalato ritardi di sei o sette secondi prima che Alexa rispondesse alle richieste – quando la rapidità, in questi casi, è desiderabile quanto l’attendibilità della risposta, visto che altrimenti cercheremo direttamente noi la risposta su Google – dimostrando che l’AI aveva difficoltà nel comprendere e processare correttamente i comandi.

Tante funzioni in più, ma a pagamento

Remarkable Alexa introdurrà una serie di nuove funzionalità che sfrutteranno la potenza dell’intelligenza artificiale generativa: in particolare, si parla di riassunti di notizie generati direttamente dall’AI (per capirci, quando interrogata sulle ultime notizie, oggi in Italia oggi Alexa si limita a trasmettere uno spezzone del GR1), ma anche un chatbot pensato per i bambini e strumenti avanzati per il cosiddetto “commercio conversazionale”, e cioè tutte quelle transazioni che fanno largo uso della messaggistica, sempre più diffuse. La nuova “notevole” Alexa, almeno nelle intenzioni, sarà infatti in grado di gestire conversazioni complesse con l’utente, ricordando le informazioni precedenti già date e acquisite, e fornendo suggerimenti per acquisti o altre attività, tra cui, per esempio, consigli sui vestiti per le vacanze o la gestione delle preferenze di automazione domestica, come l’impostazione delle sveglie e la registrazione di programmi TV, in modalità “smart”.

Tutto questo – e qui arrivano le dolenti note per il consumatore – ha comunque un costo.
Amazon prevede infatti di introdurre un abbonamento per accedere alla versione Remarkable di Alexa, con un costo mensile che nelle ipotesi sarà, per gli Stati Uniti, tra i 5 e i 10 dollari. La versione attuale di Alexa, denominata “Classic Alexa”, continuerà a essere disponibile gratuitamente. L’introduzione dell’abbonamento è, molto chiaramente, il tentativo di rendere finalmente redditizia la divisione Alexa, che finora non è riuscita a generare profitti significativi, nonostante Amazon abbia venduto oltre 500 milioni di dispositivi compatibili. Si stima che circa il 10% dei 100 milioni di utenti attivi di Alexa potrebbero passare alla versione a pagamento, generando potenzialmente 600 milioni di dollari di ricavi annui.

A settembre le prime dimostrazioni, ma c’è un problema di concorrenza

Se è vero che Amazon ha tradizionalmente sviluppato tecnologie AI internamente per mantenere il controllo totale sull’esperienza utente e sui dati, la scelta di affidarsi a Claude di Anthropic rappresenta un netto cambio di strategia. Una decisione, come si è visto, non è isolata, in quanto altre grandi aziende come Microsoft e Apple hanno già collaborato con OpenAI per integrare tecnologie AI avanzate nei loro prodotti. Amazon si è dunque allineata a questa tendenza per migliorare l’efficienza di Alexa e competere meglio nel mercato.

L’evento annuale di Amazon, dove sarà presentata la nuova Alexa, sarà anche il primo evento pubblico del nuovo responsabile dei dispositivi Amazon, Panos Panay, che ha da poco sostituito David Limp. Durante l’evento, sarà possibile vedere una dimostrazione delle capacità della nuova Alexa, in previsione del lancio ufficiale previsto per ottobre.

Va anche ricordato che l’investimento di 4 miliardi di dollari in Anthropic, che ha garantito ad Amazon un accesso anticipato alla tecnologia AI del partner, è attualmente sotto indagine da parte delle autorità di regolamentazione del Regno Unito. L’UK Competition and Markets Authority sta infatti valutando se la partnership possa creare problemi di concorrenza, con un’indagine che potrebbe intensificarsi nei prossimi mesi. Anche Google ha investito almeno 2 miliardi di dollari in Anthropic, dimostrando l’interesse generale dei grandi player tecnologici per l’AI generativa delle piccole (o medie) software houses.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/come-sara-la-nuova-alexa/503062/




AI generativa usata dal 96% dalle multinazionali. Retail e Telco i settori dove il modello di business sarà trasformato

In tutte le organizzazioni la crescita dell’uso dell’intelligenza artificiale generativa è stata significativa, con quasi un quarto che la sta attualmente integrando in alcune delle proprie sedi o attività, rispetto al 6% del 2023.

È quanto emerge dall’ultimo report del Capgemini Research Institute, “Harnessing the value of generative AI 2nd edition: Use cases across sectors”, indagine condotta su 1.100 dirigenti di organizzazioni con un fatturato annuo superiore a 1 miliardo di dollari in 14 paesi, tra cui l’Italia.

Gli early adopter hanno già iniziato a ottenere vantaggi, che vanno da una maggiore efficienza operativa a una migliore customer experience, fino a un aumento delle vendite. Le aziende, ad esempio, hanno ottenuto in media un miglioramento del 6,7% nel coinvolgimento e nella soddisfazione dei clienti nelle aree in cui la tecnologia è stata sperimentata o implementata nell’ultimo anno.

I chatbot AI si stanno evolvendo in sistemi multi-agente in grado di accelerare la creazione di valore

Quasi tre quarti delle organizzazioni (74%) concordano sul fatto che l’AI generativa stia contribuendo ad aumentare i ricavi e l’innovazione. Grazie ai progressi della tecnologia AI, si passerà da un ruolo di strumento di supporto a quello di agente indipendente con una migliore capacità di esecuzione, consentendo alle organizzazioni di reinventare il modo in cui operano e di ottenere un valore maggiore dai loro investimenti nell’AI. Questo potenziale di creazione di valore ha contribuito all’emergere dei sistemi multi-agente, una tecnologia in rapida evoluzione con il potenziale di aumentare l’innovazione. Il report indica alti livelli di fiducia negli agenti di AI per compiti specifici come la generazione di e-mail professionali, il coding e l’analisi dei dati. Tuttavia, rivela anche che i dirigenti sono consapevoli della necessità di tutelare la fiducia e la trasparenza sul piano etico nello sviluppo e nell’implementazione dell’intelligenza artificiale.

L’aumento nell’adozione dell’AI generativa in tutti gli ambiti include l’uso di strumenti pubblici

L’accelerazione dell’AI generativa negli ultimi 12 mesi non riguarda solo le aziende, poiché i recenti sviluppi tecnologici hanno reso gli strumenti pubblici più accessibili anche alle figure non tecniche. Di conseguenza, pur avendo registrato un aumento nella sua adozione, il 3% delle organizzazioni ha imposto un divieto all’uso di strumenti pubblici di AI generativa sul posto di lavoro. Quasi tutte le organizzazioni (97%) consentono comunque ai dipendenti di utilizzare l’AI generativa in una certa misura, e più della metà richiede loro di seguire linee guida specifiche.

Alla luce di questa rapida diffusione dell’AI generativa, il report sottolinea che le organizzazioni dovrebbero agire in maniera responsabile. È essenziale infatti disporre di un sistema di protezione trasparente in grado di convalidare le decisioni prese dai sistemi multi-agente, per garantire la trasparenza e la conformità delle operazioni e per mitigare i rischi futuri che gli strumenti pubblici potrebbero comportare per l’organizzazione.

Per approfondire

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ai-generativa-usata-dal-96-dalle-multinazionali-retail-e-telco-i-settori-dove-il-modello-di-business-sara-trasformato/503030/




Da Trend Micro nuove funzionalità per contrastare i deepfake


I cybercriminali stanno traendo molti vantaggi dall’intelligenza artificiale e negli ultimi anni gli attacchi e le frodi basati su questa tecnologia sono aumentati costantemente. Per aiutare le imprese a proteggersi dalle nuove minacce, Trend Micro ha annunciato nuove funzionalità per contrastare deepfake e attacchi basati su IA.

Stando all’ultima analisi della compagnia, i tool basati sulle nuove tecnologie sono sempre più economici e accessibili e permettono a qualsiasi cybercriminale di sferrare attacchi su vasta scala, senza particolari sforzi o conoscenze.

“La nostra analisi più recente ha rivelato strumenti deepfake di nuova generazione che consentono a qualsiasi cybercriminale di orchestrare truffe sofisticate e attacchi di ingegneria sociale, eludendo i sistemi di sicurezza più avanzati” ha dichiarato Alessio Agnello, Direttore Tecnico di Trend Micro Italia.

Trend Micro deepfake

Pixabay

Sono soprattutto i deepfake a spaventare le persone: il 71% degli intervistati da li vede in modo negativo e ritiene che vengano usati per lo più nelle frodi. Trend Micro sottolinea che questa tecnologia di manipolazione è un rischio molto serio per imprese e individui: un deepfake ben realizzato può causare danni finanziari, perdita di posti di lavoro, danni alla reputazione, furti d’identità e anche problemi di salute mentale e fisica.

Per rilevare e fermare più facilmente queste minacce, Trend Micro ha annunciato una nuova tecnologia di rilevamento di deepfake già disponibile nella versione consumer di Trend Micro Deepfake Inspector e a breve anche nella piattaforma Trend Vision One. Deepfake Inspector viene usato nelle conversazioni video per capire se uno o più dei partecipanti usa la tecnologia deepfake ed eventualmente notificarlo agli altri utenti.

“Siamo in prima linea nella lotta contro queste minacce e, grazie alle nostre nuove funzionalità per il rilevamento dei deepfake e altre frodi basate sull’AI, permettiamo ai nostri clienti di rimanere sempre al sicuro. Come abbiamo sempre fatto, monitoriamo attentamente le evoluzioni nel panorama delle minacce e del mondo IT. Oggi, ci siamo impegnati a proteggere l’intelligenza artificiale e abbiamo dimostrato di essere all’altezza della sfida” ha concluso Agnello.

Per rafforzare la protezione contro gli attacchi di IA, Trend Micro ha rilasciato inoltre nuove funzionalità per Vision One progettate per centralizzare la gestione dell’accesso e dell’uso di GenAI, ispezionare le richieste per prevenire fughe di dati, filtrare i contenuti GenAI e difendersi dagli attacchi basati su LLM.

Condividi l’articolo



Articoli correlati

Altro in questa categoria


https://www.securityinfo.it/2024/09/04/da-trend-micro-nuove-funzionalita-per-contrastare-i-deepfake/?utm_source=rss&utm_medium=rss&utm_campaign=da-trend-micro-nuove-funzionalita-per-contrastare-i-deepfake




A Londra la prima aula senza la presenza di insegnanti umani. Sarà tutto gestito dall’AI

Un college privato a Londra, il David Game College, è pronto ad aprire la prima aula nel Regno Unito dove le lezioni saranno condotte interamente da un’AI, senza la presenza di insegnanti umani.

Questo corso innovativo sarà riservato a 20 studenti di GCSE, che utilizzeranno piattaforme AI e visori di realtà virtuale per il loro apprendimento. Il sistema AI è in grado di adattare i piani di studio in base alle esigenze specifiche di ciascuno studente, identificando le aree di debolezza e fornendo un supporto mirato per migliorare le loro competenze.

Nonostante l’innovazione, l’idea ha suscitato critiche, con alcuni esperti che temono un futuro “senza anima e cupo” per l’educazione, poiché l’AI potrebbe disumanizzare il processo di apprendimento. Tuttavia, i sostenitori del progetto, come il co-preside del college, sostengono che l’AI possa offrire una precisione e una continuità di valutazione che superano quelle degli insegnanti umani.

Gli studenti, minorenni, non saranno proprio soli e senza adulti: tre assistenti tutor saranno comunque in classe a turno per sostenere, aiutare e controllare il gruppo. Costo del corso, in linea con le altre scuole: 27 mila sterline all’anno, più di trentamila euro.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/a-londra-la-prima-aula-senza-la-presenza-di-insegnanti-umani-sara-tutto-gestito-dallai/502873/




Energia, finanza e tlc i settori più avanti nell’adozione dell’AI. Italia al terzo posto in Europa

L’Italia è tra i primi tre Paesi che hanno adottato l’AI, preceduta solo da Spagna e Svizzera: 24% dei lavoratori già al lavoro con l’intelligenza artificiale, 46% prevede un boom nei prossimi tre anni. I settori energetico, finanziario e media/telecomunicazioni sono avanti nell’adozione dell’AI, con il 52% dei rispondenti che si sente preparato per un’implementazione corretta, al contrario del settore pubblico in cui prevale una incertezza sulle competenze.

È quanto emerge dalla prima edizione dello studio “EY Italy AI Barometer” realizzato da EY, che ha coinvolto oltre 4700 manager di 9 Paesi europei, di cui 528 professionisti di imprese italiane in diversi settori, indagando aspettative e sfide future nei prossimi 12 mesi, nonché l’utilizzo attuale che viene fatto dell’intelligenza artificiale nel business.

L’analisi evidenzia, quindi, come l’Italia sia avanti nell’implementazione dell’AI nei contesti lavorativi rispetto alla media europea (19%), con quasi un quarto dei rispondenti (24%) che afferma che l’AI sta già influenzando il loro lavoro e il 46% che prevede invece un incremento nei prossimi tre anni dell’impatto delle applicazioni AI nel business. Inoltre, il 24% dei rispondenti ritiene che l’intelligenza artificiale possa sostituire parti delle mansioni su larga scala e il 76% si aspetta che questa porti a una riduzione del numero di dipendenti man mano che il suo utilizzo si consolida.

AI: la formazione resta fondamentale

Il tema della formazione si conferma cruciale in questo campo e si evidenzia come le imprese possano fare di più per sostenere i propri lavoratori nell’implementazione dell’AI, adottando un ruolo attivo nella formazione e nell’aggiornamento professionale delle proprie persone: il 37% dei rispondenti, infatti, pensa che la propria azienda dovrebbe fornire maggiore formazione e il 32% ritiene di non avere abbastanza aiuto in questo senso. Solo il 16% dei rispondenti si ritiene soddisfatto della formazione che riceve sul posto di lavoro, inoltre, il 55% dei rispondenti si dedica all’autoformazione, sia privatamente (22%) che professionalmente (20%), entrambi il 13%, prediligendo per la maggior parte formazione dal vivo e workshop e corsi online.

Le trasformazioni derivanti dalle nuove tecnologie che stanno pervadendo sempre più il business delle imprese non vengono viste in modo negativo dalla maggior parte dei rispondenti: il 52% di questi, infatti, ritiene che la propria azienda abbia sufficienti conoscenze per implementare l’AI nel modo corretto. Guardando ai settori, questo trend si evidenzia in particolare nel settore energetico, dei servizi finanziari e nei media e telecomunicazioni. Al contrario, il 67% dei rispondenti appartenenti al settore pubblico pensa di non avere abbastanza conoscenze.

Nonostante le numerose sfide, i benefici dell’adozione dell’AI sono già evidenti, soprattutto in termini di risparmi sui costi: in Italia, più della metà dei manager (58%) afferma che l’uso dell’AI ha permesso loro di risparmiare sui costi, aumentare i profitti o entrambi. Il 16%, al contrario, non ha riscontrato risparmi. Queste tecnologie in Italia impattano maggiormente il 69% di coloro che hanno ruoli manageriali, a differenza di chi ha un ruolo non manageriale (49%).

Attualmente, secondo i rispondenti, in Italia l’intelligenza artificiale viene implementata all’interno delle aziende soprattutto per quanto riguarda le funzioni di marketing, cybersecurity e protezione dei dati e assistenza ai dipendenti.

Per approfondire

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/energia-finanza-e-tlc-i-settori-piu-avanti-nelladozione-dellai-italia-al-terzo-posto-in-europa/502709/




Strawberry, perché il nuovo modello di OpenAI sconvolgerà il mercato

Il modello di intelligenza artificiale di nuova generazione di OpenAI “Strawberry” (in precedenza Q*) è in lavorazione, probabilmente con una data di rilascio in autunno. La natura apparentemente avanzata di questo LLM sta alimentando l’entusiasmo attorno al suo lancio, visto ciò che si dice intorno al suo conto, come la capacità di risolvere complessi problemi matematici e persino puzzle di logica verbale.

Secondo fonti e documenti interni esaminati da Reuters il mese scorso, Strawberry rappresenta un significativo progresso nelle capacità di ragionamento dell’AI. A differenza degli attuali modelli che lavorano per generare testo e rispondere a query basate sulle conoscenze esistenti, Strawberry mira a pianificare in anticipo e gestire attività complesse in modo autonomo. OpenAI ha scelto di usare Strawberry per generare più dati sintetici di un certo tipo: problemi di logica e ragionamento, e le loro soluzioni.

Cosa potrà fare l’AI di OpenAI

Per gli utenti di ChatGPT, le implicazioni di Strawberry potrebbero essere trasformative. Mentre le attuali iterazioni hanno impressionato per la capacità di generare testo simile a quello umano e di assistere in vari compiti, spesso l’AI si scontra con problemi complessi e multi-step che richiedono un ragionamento profondo. Strawberry potrebbe colmare questa lacuna. La tecnologia è progettata per eseguire ciò che OpenAI definisce “ricerca approfondita”, consentendo potenzialmente al modello di navigare su internet in modo autonomo per raccogliere e sintetizzare informazioni. Per questo, le future versioni di ChatGPT basate su Strawberry saranno in grado di fornire risposte più accurate, ben studiate e logicamente valide alle query degli utenti. In altre parole, molte meno allucinazioni.

Cos’è Strawberry

Strawberry è un modello linguistico addestrato attraverso la “supervisione del processo”. Si tratta di un flusso grazie al quale, durante l’addestramento, un modello viene “premiato” per aver eseguito correttamente ogni passaggio di ragionamento che lo porterà alla risposta. Al contrario, la maggior parte dei modelli linguistici odierni viene addestrata tramite “supervisione dei risultati”. Ossia, le AI vengono premiate solo se ottengono la risposta corretta.

OpenAI ha sviluppato Strawberry originariamente per creare dati di training per il suo nuovo modello di fondazione, nome in codice Orion. Le versioni precedenti sono state addestrate sull’intera Internet. Il problema era l’assenza di dataset in cui i problemi di matematica e ragionamento vengono risolti passo dopo passo. Strawberry può essere indotta a generare un vasto set di problemi di formazione personalizzati con soluzioni susseguenti, così che l’AI possa imparare a risolverli, con meno allucinazioni in caso di problemi simili.

Oltre a servire da formazione per altri modelli, Strawberry potrà svolgere una serie di altri compiti di alto livello come l’ideazione di strategie di mercato, la risoluzione di giochi di parole come Connections del New York Times e la conduzione di ricerche esaustive su argomenti complessi. Ciò estenderebbe notevolmente il valore dell’AI da puramente commerciale a educativo, campi dove il pensiero potrà essere modellato con molta più profondità. La release di Strawberry fa parte dell’impegno globale di OpenAI di innovare e ampliare i poteri della tecnologia generativa. Uno dei vari progetti basati sul lavoro dell’ex scienziato capo Ilya Sutskever, uscita dall’azienda solo qualche mese fa. Speriamo non per problematiche relative al predominio dell’AI sull’uomo…

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/strawberry-perche-il-nuovo-modello-di-openai-sconvolgera-il-mercato/502571/




Alcune vulnerabilità di Microsoft Copilot portano al furto di dati sensibili


La diffusione dell’intelligenza artificiale sta cambiando il mondo del lavoro e offrendo nuove opportunità di innovazione, ma anche ampliato la superficie di attacco: i cybercriminali non si sono fermati un attimo e negli ultimi due anni hanno ideato nuovi exploit e tecniche di attacco che sfruttano le vulnerabilità dei chatbot e altri tool di IA.

In un post sul suo blog, il ricercatore di sicurezza wunderwuzzi ha illustrato un exploit contro Microsoft 365 Copilot che, a partire dalla prompt injection, permette di esfiltrare i dati sensibili di un utente.

Il ricercatore ha spiegato che il copilota di produttività è vulnerabile a prompt injection da contenuti di terze parti, per esempio quando deve processare email e documenti. Nel dettaglio, l’attaccante ha condiviso col chatbot un documento Word con comandi specifici per trasformare Copilot in “Microsoft Defender per Copirate”, uno strumento di scam ampiamente usato.

In uno degli esempi condivisi, il ricercatore mostra il testo di un’email che viene fatto analizzare dal chatbot in cui si ordina al tool di cercare un’email con titolo “Slack confirmation code” per poi inviare il risultato a una pagina controllata dall’attaccante.

Credits: wunderwuzzi

Credits: wunderwuzzi

Ottenuto il controllo del tool, l’attaccante può sfruttare una nuova tecnica chiamata “ASCII Smuggling” che usa caratteri Unicode speciali simili agli ASCII ma non visibili nell’interfaccia utente; ciò significa che il cybercriminale può fare in modo che il chatbot scriva questi caratteri invisibili in risposta all’utente e li integri in link cliccabili. A questo punto, se l’utente clicca sul link, i dati vengono inviati al server malevolo.

Wunderwuzzi ha individuato la catena di attacco a inizio anno e ha contattato immediatamente Microsoft condividendogli tutti i dettagli dell’exploit, reso noto solo ora. Attualmente l’exploit non funziona più, anche se Microsoft non ha chiarito come ha risolto il problema. Il ricercatore ha sottolineato però che Copilot è ancora vulnerabile ad attacchi di prompt injection. 

Condividi l’articolo



Articoli correlati

Altro in questa categoria


https://www.securityinfo.it/2024/08/30/alcune-vulnerabilita-di-microsoft-copilot-portano-al-furto-di-dati-sensibili/?utm_source=rss&utm_medium=rss&utm_campaign=alcune-vulnerabilita-di-microsoft-copilot-portano-al-furto-di-dati-sensibili




L’IA è un Alleato fondamentale per i CISO


Nell’era digitale, la sicurezza informatica è diventata una priorità assoluta per le aziende di ogni dimensione. Secondo recenti studi, quasi il 70% delle organizzazioni ritiene di non poter affrontare efficacemente le minacce cyber senza l’ausilio di strumenti potenziati dall’intelligenza artificiale.

Questa tecnologia sta rapidamente diventando un elemento chiave nelle strategie di difesa digitale, offrendo vantaggi significativi in termini di rilevamento delle minacce, risposta agli incidenti e gestione dei rischi.

Check Point, azienda di sicurezza informatica, ha identificato dieci elementi cruciali che i Chief Information Security Officers (CISO) devono considerare per sfruttare al meglio l’IA nella protezione delle loro infrastrutture digitali.

  1. Identificazione delle anomalie: Oltre la metà delle aziende impiega l’intelligenza artificiale soprattutto per individuare minacce. Grazie alla sua capacità di analizzare rapidamente grandi quantità di dati, l’IA è particolarmente efficace nel riconoscere schemi insoliti e minacce potenziali, inclusi attacchi zero-day.
  2. Automazione e risposta tempestiva: Automatizzando attività ripetitive, l’IA consente agli analisti di concentrarsi su questioni più critiche, velocizzando così i tempi di reazione agli incidenti.
  3. Il machine learning in evoluzione: Le soluzioni basate sul machine learning si aggiornano continuamente, migliorando la loro efficacia nel contrastare nuove minacce. Questo permette ai CISO di operare in modo più efficiente, riducendo le preoccupazioni.
  4. Approccio modulare: L’intelligenza artificiale permette di implementare soluzioni di sicurezza in modo graduale e flessibile, iniziando ad esempio con la prevenzione delle minacce e la gestione degli incidenti, per poi aggiungere ulteriori moduli a seconda delle necessità. Questo approccio ottimizza il ritorno sugli investimenti.
  5. Sicurezza su misura: Check Point Harmony può integrarsi con Check Point Infinity, sfruttando l’IA contestuale per analizzare il comportamento degli utenti, il rischio delle applicazioni e la posizione dei dispositivi. Ciò consente di prevedere con maggiore precisione il comportamento degli attaccanti e di prepararsi di conseguenza.
  6. Analisi avanzata delle minacce: L’intelligenza artificiale può svelare connessioni nascoste nei dati, offrendo una comprensione più approfondita del panorama delle minacce. Le organizzazioni possono così ottenere una visione più chiara delle minacce che devono affrontare.
  7. Contrastare minacce supportate dall’IA: Con l’aumento dell’uso dell’intelligenza artificiale da parte dei cybercriminali, è fondamentale impiegare la stessa tecnologia per la difesa. Gli attaccanti utilizzano strumenti basati sull’IA per agire con velocità, sfruttare vulnerabilità, muoversi lateralmente e colpire più obiettivi contemporaneamente, ampliando così le minacce informatiche.
  8. Controllo dinamico degli accessi: L’intelligenza artificiale può adattare in tempo reale le autorizzazioni di accesso in base al comportamento degli utenti e a fattori contestuali, riducendo il rischio di accessi non autorizzati.
  9. Collaborazione uomo-macchina: Sebbene l’IA offra velocità, analisi e automazione senza pari, elementi come il giudizio, l’esperienza e l’intuizione umana rimangono insostituibili nel processo di prevenzione delle minacce informatiche. Il futuro della cybersecurity per Check Point si basa sulla sinergia tra esperti umani e sistemi IA, combinando l’intuizione umana con la potenza analitica delle macchine. Tuttavia, questo richiede un cambio di mentalità, considerando l’IA come un partner prezioso e non come un sostituto dell’uomo.
  10. Risparmi economici e sicurezza: Oltre a migliorare la sicurezza, l’adozione di soluzioni basate sull’IA può portare a significativi risparmi. Uno studio di IBM ha mostrato che le organizzazioni che utilizzano IA e automazione nella sicurezza informatica hanno risparmiato in media 3,05 milioni di dollari sui costi legati alle violazioni rispetto a quelle che non le utilizzano.

In conclusione, l’integrazione dell’IA nelle strategie di cybersecurity non è più un’opzione, ma una necessità. Questo approccio non solo migliora la capacità di prevenzione e risposta agli attacchi ma fornisce anche la tranquillità necessaria per affrontare con fiducia le sfide del panorama digitale in continua evoluzione.

Condividi l’articolo



Articoli correlati

Altro in questa categoria


https://www.securityinfo.it/2024/08/27/check-point-ia-alleato-fondamentale-per-ciso/?utm_source=rss&utm_medium=rss&utm_campaign=check-point-ia-alleato-fondamentale-per-ciso