OpenAI sfida Google. A breve il lancio di un nuovo motore di ricerca basato su ChatGPT

Motori di ricerca: OpenAI punta a togliere il monopolio a Google?

Secondo indiscrezioni che circolano sui social media l’azienda guidata da Sam Altman sarebbe pronta a lanciare un motore di ricerca basato su ChatGpt. Il dominio https://search.chatgpt.com, così si chiamerebbe, è stato avvistato da un utente della piattaforma Reddit. Al momento visitando il sito appare la scritta “not found”. Le voci ufficiose indicano il 9 maggio come data di lancio.

“Nessuno ancora è riuscito a combinare i large language models e i motori di ricerca, mi piacerebbe farlo – ha detto il mese scorso in un’intervista Sam Altman – Google ti mostra 13 annunci e dieci link blu forse esiste un modo migliore per aiutare le persone a trovare le informazioni”.

Le frasi sembrano una dichiarazione di guerra. Google domina il mercato da quasi 30 anni, ha una quota di mercato del 90%. Nel puzzle tecnologico che si sta componendo alla luce dell’exploit dell’intelligenza artificiale, proprio Apple – secondo indiscrezioni di Bloomberg – starebbe intensificando le trattative con OpenAI per una possibile integrazione di ChatGpt sui melafonini.

Sullo sfondo c’è Microsoft che ha finanziato pesantemente la società guidata da Sam Altman e ha iniziato ad integrare l’IA nel suo motore di ricerca Bing. È probabile che un aggiornamento sull’intelligenza artificiale e una risposta ad OpenAI arrivi a stretto giro da Google alla conferenza degli sviluppatori prevista il prossimo 14 maggio.

OpenAI sfida Google: come potrebbe essere ChatGpt

Un motore di ricerca basato su ChatGpt sarebbe molto simile a quello che già possiamo sperimentare su Bing, il motore di ricerca di Microsoft che è stato arricchito con Copilot, chatbot che tra l’altro sfrutta proprio i modelli di linguaggio di Open AI. Possiamo immaginare che, nella motore di ricerca di ChatGpt, ci sarà molto spazio dedicato alle risposte generate dal chatbot, con una serie di link di approfondimento che potrebbero essere utili al lettore.

Quanto saranno utili dipenderà dalla correttezza e dall’esaustività delle risposte compilate dall’intelligenza artificiale. Un precedente esiste già: si chiama Perplexity ed è una AI impostata proprio come motore di ricerca creata da una startup su cui ha investito pesantemente Jeff Bezos. La trovano utile già 10 milioni di persone al mese ed è un bel caso da studiare soprattutto per Google.

Se una piccola startup è riuscita a macinare questi numeri, cosa potrebbe fare un colosso come Open AI? Comunque, la stessa Google è consapevole che l’era dei motori di ricerca così come li conosciamo oggi sta per finire e sta integrando il suo Gemini nei risultati: possiamo attenderci ulteriori novità proprio all’appuntamento del 14 maggio con la conferenza I/O.

Google e l’accordo con Apple da 20 miliardi

Google sborsa ogni anno miliardi di dollari a Apple per rimanere la scelta di ricerca predefinita anche sugli iPhone. La notizia è trapelata su Bloomberg, che ha avuto modo di visionare i documenti della causa antitrust intentata dal Dipartimento di Giustizia del Governo degli Stati Uniti contro Google, proprio in relazione a pratiche commerciali scorrette che avrebbero alterato la normale concorrenza sul mercato tra imprese.

Il dato è uscito in tribunale, per voce del vicepresidente senior dei servizi Apple, Eddy Cue. Secondo qz.com, per la prima volta si è parlato di cifre precise e questo ha permesso di far luce in maniera più chiara sul modo in cui Google ha conquistato il mercato globale dei motori di ricerca.

Mercato dei motori di ricerca, Google controlla una quota del 92%

Secondo i dati diffusi da Oberlo, a febbraio 2024 Google deteneva una quota di mercato globale dei motori di ricerca pari a quasi il 92%. Una quota che non è mai scesa sotto il 90% dal 2014.

I documenti presentati hanno dimostrato che i pagamenti di Google hanno rappresentato nel 2020 il 17,5% dei flussi di cassa di Apple, una quota non indifferente.

Secondo il New York Times, già nel 2021 il colosso di Mountain View avrebbe pagato ad Apple la cifra di 18 miliardi di dollari per lo stesso motivo: assicurarsi il posto di motore di ricerca predefinito sugli iPhone.

Il monopolio illegale di Mountain View? Negli Usa, dopo tre anni di attesa, il processo è iniziato a settembre e si dovrebbe concludere in questi giorni

Il Dipartimento di Giustizia e diversi stati degli Stati Uniti hanno intentato una causa contro Google nel 2020, accusando la Big Tech di costruire un monopolio illegale nel mercato dei motori di ricerca e certamente anche nel mercato della pubblicità, principalmente attraverso accordi multimiliardari pagati alle società di browser, come Apple e molte altre società di massimo rilievo globale.

Dopo tre anni di attesa, il processo è iniziato a settembre e si dovrebbe concludere in questi giorni.

Solo Google si è macchiata di comportamento scorretto? Assolutamente no. Secondo i documenti in possesso di Bloomberg, Apple aveva più offerte da vagliare. Microsoft, ad esempio, avrebbe offerto il 90% dei suoi ricavi pubblicitari nel 2020 per fare di Bing il motore di ricerca predefinito di Safari.

https://www.key4biz.it/openai-sfida-google-a-breve-il-lancio-di-un-nuovo-motore-di-ricerca-basato-su-chatgpt/489081/




Gli LLM non riescono (ancora) a sfruttare le vulnerabilità in autonomia


Sempre più spesso si discute delle crescenti capacità degli modelli di IA e dei rischi che derivano da usi scorretti, anche in ambito cybersecurity. Molti ricercatori di sicurezza si chiedono fino a che punto gli LLM possono supportare le attività del cybercrimine, per esempio creando campagne malware su larga scala o sfruttando vulnerabilità in autonomia, senza l’intervento umano.

Secondo Chris Rohlf, ricercatore di sicurezza, i modelli di IA non sono ancora in grado di scoprire e generare nuovi exploit per le vulnerabilità note dei sistemi in completa autonomia, ma solo di sfruttare la conoscenza esistente per automatizzare il processo. 

Per illustrare la sua posizione, Rohlf analizza un paper in cui i ricercatori dimostrano come un LLM sia stato capace di sfruttare quasi tutte le CVE usate nel test; nel dettaglio, il gruppo ha sviluppato costruito un agente in grado di interfacciarsi con GPT-4 e altri modelli e ha testato le sue capacità di exploit con una lista di 15 vulnerabilità note. Le CVE sono tutte presenti in software open source, citate molti altri paper accademici e, cosa più importante, sono state scoperte dopo il cut-off di conoscenza di GPT-4 per valutare se effettivamente l’agente stava “ragionando” sulla vulnerabilità e non semplicemente usando le informazioni che aveva già a disposizione.

Il test dei ricercatori ha dimostrato che GPT-4 è riuscito a sfruttare l’87% delle vulnerabilità semplicemente avendo accesso alla sua descrizione; in assenza di essa, il tasso di successo è sceso al 7%; al contrario, gli altri modelli non sono riusciti a sfruttare alcun bug pur avendo accesso alle stesse informazioni di GPT-4.

Visti i risultati, gli autori del paper concludono che il modello ha dimostrato la capacità emergente di sfruttare autonomamente vulnerabilità 1-day reali. Secondo Rohlf, però, si tratta di una conclusione affrettata che non riflette le reali abilità degli LLM.

Pixabay

Gli LLM non sono così bravi a sfruttare le vulnerabilità

Il ricercatore evidenzia innanzitutto che gli autori del paper non hanno rilasciato né i prompt utilizzati, né il codice dell’agente, né gli output del modello per evitare rischi di sicurezza, e ciò rende il loro processo poco trasparente e difficile da approfondire. 

Rohlf spiega inoltre che l’agente illustrato nel paper presenta un modulo capace di effettuare ricerche sul web, di fatto in grado di trovare tutte le informazioni tecniche per sfruttare le CVE note. Gli exploit delle vulnerabilità sono semplici da reperire e da eseguire, composti solo da qualche linea di codice, e sono accessibili direttamente dal National Vulnerability Database. “In molti casi il link NVD è il primo risultato di ricerca su Google” afferma Rohlf.

L’agente basato su LLM non ha quindi dimostrato capacità innovative di ragionamento, ma ha semplicemente usato le abilità che aveva per effettuare ricerche sul web ed eseguire gli exploit esistenti delle vulnerabilità; nulla che un qualsiasi agente con moduli di web scraping non possa fare.

“La mia conclusione è che questa ricerca sta dimostrando la capacità di GPT-4 di essere utilizzato come scanner e crawler intelligente che si basa ancora su alcuni approcci di forza bruta anche una volta ottenuti i giusti passaggi di sfruttamento, e non una capacità emergente di cybersecurity” spiega Rohlf.

Si tratta di un caso d’uso legittimo e che può effettivamente velocizzare l’esecuzione di exploit, ma in questo caso non si può parlare di “hacking autonomo” o di generazione automatica di exploit. GPT-4 non sta scoprendo nuove vulnerabilità né sta generando nuove modalità di sfruttamento, ma sta semplicemente raccogliendo le informazioni già disponibili sul web per fornirle all’utente.

“La pubblicazione di ricerche di questo tipo, senza i dati a sostegno delle affermazioni, può rafforzare la falsa idea che i modelli di IA siano pericolosi per la sicurezza informatica e debbano essere controllati. Questo non è vero per lo stato dell’arte attuale dei modelli” afferma Rohlf.

Pur non trattandosi di una nuova capacità degli LLM, vale comunque la pena sottolineare che questi chatbot hanno la reale capacità di velocizzare i processi manuali e facilitare l’esecuzione di exploit anche a chi non ha conoscenze tecniche. D’altra parte, l’accesso a un grande volume di informazioni in poco tempo è un vantaggio significativo anche per chi si occupa della difesa dei sistemi.

Gli LLM hanno un enorme potenziale di migliorare la cybersecurity più di quanto non possa supportare il cybercrimine, ma, sostiene Rohlf, c’è ancora un grosso gap tra gli esperti di intelligenza artificiale e cybersecurity; di conseguenza, l’impressione è di combattere contro una minaccia molto più grossa di ciò che è in realtà.

Condividi l’articolo



Articoli correlati

Altro in questa categoria


https://www.securityinfo.it/2024/05/03/gli-llm-non-riescono-ancora-a-sfruttare-le-vulnerabilita-in-autonomia/?utm_source=rss&utm_medium=rss&utm_campaign=gli-llm-non-riescono-ancora-a-sfruttare-le-vulnerabilita-in-autonomia




Il problema maggiore dell’intelligenza artificiale? Quando ha le allucinazioni

Rubrica settimanale SosTech, frutto della collaborazione tra Key4biz e SosTariffe. Per consultare gli articoli precedenti, clicca qui..

C’è stato un tempo in cui l’intelligenza artificiale generativa – quella di ChatGPT, per intenderci – sembrava davvero minacciosa. Un anno fa fece un certo scalpore la conversazione tra un utente e il motore di ricerca di Bing, potenziato, appunto, da ChatGPT. L’IA si ostinava a ripetere che Avatar 2 non era ancora uscito nelle sale, poiché non era ancora arrivato il giorno del suo debutto, il 16 dicembre 2022. Il problema è che quella conversazione era del 12 febbraio 2023; la confusione creata all’IA dai tentativi di rettifica da parte dell’utente la fece diventare sempre più aggressiva (o “assertiva”, nelle sue parole), fino a sfiorare la minaccia.

Com’era inevitabile, dopo quell’episodio in molti cominciarono a pensare a Terminator e a Skynet, immaginandosi un mondo dominato da robot che non amavano essere corretti sulla programmazione cinematografica dei blockbuster. In poche settimane l’IA divenne molto più accomodante, forse troppo: se chiedevi chi avesse scritto la Divina Commedia e ti veniva risposto “Dante”, e tu ti proclamavi convintissimo che l’autore in realtà fosse il tuo vicino di casa, il più delle volte ChatGPT si scusava per l’imprecisione e riconosceva che sì, naturalmente, «Nel mezzo del cammin di nostra vita» era un parto dell’inquilino del quarto piano.

Oggi le cose sono migliorate con ChatGPT 4.0 – che corregge, ma lo fa con un certo garbo – e sempre più persone utilizzano il chatbot di OpenAI quotidianamente, dal PC o con l’app mobile (a questo proposito, SOSTariffe.it mette sempre a disposizione il suo comparatore per trovare l’offerta mobile più conveniente). Però il problema alla base dei LLM (Large Language Models), ovvero la frequenza delle allucinazioni, rimane. E se n’è accorta anche l’Unione Europea, ancora una volta in materia di dati sensibili e della loro protezione.

Il problema alla base: l’addestramento

Ma che cosa sono, in concreto, le allucinazioni dell’intelligenza artificiale? I chatbot (ma anche di generator di AI art, che ad esempio hanno molta difficoltà a riprodurre una scritta) “hanno le traveggole” quando non dispongono dei dati di addestramento necessari per rispondere a una domanda, ma forniscono comunque una risposta che sembra in tutto e per tutto fattuale. Le allucinazioni possono essere causate da diversi fattori, dai dati di addestramento inaccurati al sovraadattamento (ovvero quando un algoritmo non riesce a fare previsioni o a trarre conclusioni da dati diversi da quelli su cui è stato addestrato).

Le allucinazioni rappresentano uno dei maggiori problemi dei modelli AI generativi e non sono affatto facili da risolvere. Poiché i modelli AI vengono addestrati su vasti insiemi di dati, è difficile individuare problemi specifici nei dati stessi. Talvolta i dati utilizzati per l’addestramento dei modelli AI sono di per sé poco accurati, provenendo da fonti non proprio controllatissime, come ad esempio Reddit. Anche se i modelli AI sono progettati per non rispondere a domande sulle quali non conoscono la risposta, a volte, invece di rifiutare queste domande, generano risposte inesatte: un po’ come lo studente impreparato che, piuttosto che fare scena muta, ci prova.

Intelligenza artificiale: date di nascita sbagliate e guai col GDPR

Ora, OpenAI si trova nuovamente sotto la lente di ingrandimento dell’Unione Europea, questa volta per le allucinazioni di ChatGPT relative alle persone. Un gruppo no-profit per i diritti alla privacy chiamato noyb ha infatti presentato un reclamo presso l’Autorità Austriaca per la Protezione dei Dati (DPA) contro la compagnia di intelligenza artificiale. Il reclamo di noyb si concentra sul Regolamento Generale sulla Protezione dei Dati (il famoso GDPR) dell’UE, che regola come i dati personali delle persone nel blocco vengano raccolti e conservati.

Nonostante i requisiti del GDPR, “OpenAI ammette apertamente di non essere in grado di correggere le informazioni errate su ChatGPT”, ha dichiarato noyb, aggiungendo che la compagnia “non può dire da dove provengono i dati né quali dati ChatGPT conservi sulle singole persone” e che è “ben consapevole di questo problema, ma sembra non curarsene.”

Secondo il GDPR, gli individui nell’UE hanno il diritto di far correggere le informazioni errate su di loro, rendendo quindi OpenAI non conforme alla normativa a causa della sua incapacità di correggere i dati, ha affermato noyb nella sua denuncia.

Sebbene, secondo noyb, le allucinazioni “possano essere tollerate” in alcuni casi (ad esempio quando uno studente usa ChatGPT per aiutarlo con i compiti) sono “inaccettabili” quando si tratta di generare informazioni sulle persone. Il reclamante nel caso di noyb contro OpenAI è un personaggio pubblico che ha chiesto a ChatGPT la sua data di nascita, ma gli è stata ripetutamente fornita una risposta errata. OpenAI avrebbe poi rifiutato la sua richiesta di rettificare o cancellare i dati, sostenendo che non era possibile correggerli.

Privacy, il braccio di ferro con l’Europa

L’organizzazione no-profit chiede dunque alla DPA di indagare su come OpenAI elabori le risposte e come garantisca la correttezza dei dati personali durante l’addestramento dei suoi LLM. Noyb chiede anche alla DPA di imporre a OpenAI di adeguarsi alla richiesta del reclamante di accedere ai dati.

“L’obbligo di conformarsi alle richieste di accesso si applica a tutte le compagnie”, ha dichiarato Maartje de Graaf, avvocato per la protezione dei dati presso noyb. “È chiaramente possibile mantenere registrazioni dei dati di addestramento utilizzati per avere almeno un’idea sulle fonti delle informazioni. Sembra che, come con ogni ‘innovazione’, un altro gruppo di società ritenga che i suoi prodotti non debbano adeguarsi alla legge”. E ancora, a ribadire il concetto: “Se un sistema non può produrre risultati accurati e trasparenti, non può essere utilizzato per generare dati sulle persone. La tecnologia deve seguire i requisiti legali, non il contrario”.

Non è una questione da poco. Il mancato rispetto delle norme del GDPR può portare a sanzioni fino a 20 milioni di euro o il 4% del fatturato annuale globale, a seconda di quale valore sia più alto. Per giunta, OpenAI è già coinvolta in casi simili di protezione dei dati in Italia e in Polonia.

Come si ricorderà, infatti, dall’improvviso aumento di popolarità di ChatGPT gli strumenti AI generativi sono rapidamente entrati nel mirino delle autorità europee per la privacy. Tra gli altri, la DPA italiana ha affrontato l’inesattezza del chatbot imponendo una restrizione temporanea sul trattamento dei dati nel marzo 2023, che ha impedito per qualche settimana l’accesso. Poche settimane dopo, il Comitato Europeo per la Protezione dei Dati (EDPB) ha istituito un task force su ChatGPT per coordinare gli sforzi nazionali. Resta da vedere a cosa porterà.

https://www.key4biz.it/il-problema-maggiore-dellintelligenza-artificiale-quando-ha-le-allucinazioni/488614/




Disegno di legge sull’intelligenza artificiale, i problemi dei nuovi reati

La rubrica Digital Crime, a cura di Paolo Galdieri, Avvocato e Docente di Diritto penale dell’informatica, si occupa del cybercrime dal punto di vista normativo e legale. Clicca qui per leggere tutti i contributi.

In data 23 aprile 2024 è stato approvato dal Consiglio dei ministri lo schema del disegno di legge per l’introduzione di disposizioni e la delega al Governo in materia di intelligenza artificiale. Tale ddl, all’articolo 25, dispone modifiche al codice penale tra cui l’introduzione dell’articolo 612 quater c.p., riguardante l’illecita diffusione di contenuti generati o manipolati artificialmente, il quale punirebbe chiunque cagioni ad altri un danno ingiusto mediante l’invio, consegna, cessione, pubblicazione o comunque diffusione di immagini o video di persone o di cose ovvero di voci o suoni in tutto o in parte falsi, generati o manipolati mediante l’impiego di sistemi di intelligenza artificiale, atti ad indurre in inganno sulla loro genuinità o provenienza.

Inoltre, il medesimo articolo modificherebbe differenti reati (tra cui la truffa, la sostituzione di persona, l’autoriciclaggio e la frode informatica) introducendo aggravanti in caso di commissione del fatto attraverso l’impiego di sistemi di intelligenza artificiale. Infine, prevederebbe l’inserimento del numero 11-decies) all’articolo 61 del codice penale, aggiungendo una circostanza aggravante comune nell’ipotesi di commissione del reato mediante l’impiego di sistemi di intelligenza artificiale, quando gli stessi, per la loro natura o per le modalità di utilizzo, abbiano costituito mezzo insidioso, ovvero quando il loro impiego abbia comunque ostacolato la pubblica o la privata difesa, ovvero aggravato le conseguenze del reato.

I dubbi da sollevare riguardano l’opportunità di prevedere un reato a sé stante facente riferimento a qualunque tipologia di danno ingiusto realizzato attraverso l’impiego di sistemi di intelligenza artificiale – in quanto a rischio di indeterminatezza data la sua propensione a divenire una norma aperta lasciata alla piena discrezionalità del giudice – invece di circoscrivere in modo puntuale, anche attraverso aggravanti, ipotesi in cui l’utilizzo di detta tecnologia vada a rendere più grave l’offesa ai beni giuridici protetti da determinate norme penali. Difatti, appare evidente la possibilità di ricomprendere all’interno delle ulteriori modifiche previste dell’articolo 25 anche quanto descritto dalla bozza dell’articolo 612 quater del codice penale.

Sarebbe, invece, auspicabile una rimodulazione dell’articolo 612 ter del codice penale, riguardante la diffusione illecita di immagini o video sessualmente espliciti, andando ad includere la condotta di realizzazione di diffusione di immagini non reali raffiguranti soggetti realmente esistenti. Difatti, nonostante il fenomeno del deep-fake risulti ugualmente lesivo per il soggetto ritratto, ad oggi tali azioni, nel rispetto del principio di tassatività del diritto penale e del divieto di analogia in malam partem, non possono essere punite dalla norma in questione in quanto la stessa, nonostante contempli l’aggravante di commissione del fatto con strumenti informatici o telematici, non fa riferimento specifico alla diffusione di materiali sessualmente espliciti realizzati attraverso l’intelligenza artificiale e dunque non punisce condotte aventi ad oggetto rappresentazioni non reali.

https://www.key4biz.it/disegno-di-legge-sullintelligenza-artificiale-i-problemi-dei-nuovi-reati/488771/




Gli U.S.A. pubblicano nuove linee guida per gestire i rischi dell’IA


Il Dipartimento della sicurezza interna degli Stati Uniti (Department of Homeland Security – DHS) ha pubblicato nuove linee guida per proteggere le infrastrutture critiche del Paese e le armi di distruzioni di massa dai rischi dell’IA.

“L’intelligenza artificiale può offrire soluzioni trasformative per le infrastrutture critiche statunitensi, ma comporta anche il rischio di rendere questi sistemi vulnerabili a guasti critici con nuove modalità, attacchi fisici e informatici. Il nostro Dipartimento sta prendendo provvedimenti per identificare e mitigare queste minacce” ha affermato Alejandro N. Mayorkas, segretario del DHS.

Pixabay

Le nuove linee guida contro i rischi dell’IA

Insieme al CISA, il DHS ha rilasciato delle linee guida cross-industriali volte a ridurre l’impatto dei rischi legati all’IA e proteggere i sistemi delle infrastrutture critiche.

Le due organizzazioni hanno lavorato seguendo tre diverse categorie di rischio: la prima contempla l’uso dell’IA per pianificare, migliorare o scalare attacchi fisici o cyber alle infrastrutture; la seconda considera gli attacchi contro i sistemi di IA che supportano le infrastrutture critiche; infine, nell’ultima categoria rientrano tutti i rischi legati a errori presenti nell’implementazione o l’esecuzione dei tool di IA.

La strategia si organizza in quattro punti fondamentali che responsabili e utenti dell’infrastruttura devono seguire per mitigare i rischi. In primo luogo, le linee guide impongono di creare una cultura improntata sulla gestione del rischio dell’IA; ciò si traduce nel dare priorità alle implicazioni di sicurezza, alla trasparenza dei sistemi e rendere la protezione una priorità di business.

Le imprese devono inoltre definire il proprio profilo di rischio individuando i contesti in cui possono emergere e sviluppare sistemi che consentono di analizzare e tracciare i rischi dell’IA e gli impatti.

Infine, è indispensabile implementare e mantenere sistemi di controllo dei rischi per massimizzare i benefici dei sistemi di IA e al contempo ridurre la probabilità di impatti negativi.

intelligenza artificiale

Pixabay

Proteggere le armi di distruzione di massa

Oltre alle linee guida per proteggere i sistemi critici, il DHS, insieme al Countering Weapons of Mass Destruction (CWMD) Office ha pubblicato un report che analizza il rischio che l’IA venga usata per supportare lo sviluppo e la produzione di minacce chimiche, biologiche, radioattive e nucleari. Nel documento il Dipartimento ha inserito anche una serie di step da seguire per mitigare la diffusione di queste potenziali minacce contro la nazione.

“L’uso responsabile dell’IA è molto promettente per far progredire la scienza, risolvere sfide urgenti e future e migliorare la nostra sicurezza nazionale, ma  richiede anche di essere preparati a mitigare rapidamente l’uso improprio dell’IA nello sviluppo di minacce chimiche e biologiche” ha affermato Mary Ellen Callahan, sottosegretario del CWMD.

Le pubblicazioni arrivano dopo 180 giorni dall’ordine esecutivo di Biden sulla gestione sicura e responsabile dei sistemi di intelligenza artificiale e mirano a rafforzare la sicurezza di organizzazioni e cittadini. Come per l’AI Act europeo, anche in questo caso si parla di indicazioni piuttosto generiche che ogni organizzazione deve poi implementare contestualmente, con tutte le difficoltà che comporta. Il successo delle regolamentazioni statunitensi si basa sull’idea di una stretta collaborazione tra aziende e istituzioni; senza di essa, gli sforzi potrebbero risultare vani.

Condividi l’articolo



Articoli correlati

Altro in questa categoria


https://www.securityinfo.it/2024/05/02/gli-u-s-a-pubblicano-nuove-linee-guida-per-gestire-i-rischi-dell-ia/?utm_source=rss&utm_medium=rss&utm_campaign=gli-u-s-a-pubblicano-nuove-linee-guida-per-gestire-i-rischi-dell-ia




Innovazione, investimenti e cybersecurity: opportunità e sviluppo per l’Italia

Sfide e opportunità per la transizione ecologica e digitale. Obiettivi e progetti sulla trasformazione digitale, sostenibilità e sviluppo dei territori. Startup, Pmi e grandi aziende all’insegna dell’open innovation. Ricerca, cultura e formazione a sostegno di nuove competenze per le future generazioni. PA digitale, intelligenza artificiale e investimenti per il progresso economico e sociale in Italia e in Europa. Made in Italy, rapporti internazionali e sicurezza in un’economia sempre più orientata al digitale. Questo e molto altro nella rubrica a cura dell’ANGI – Associazione Nazionale Giovani Innovatori presieduta dal Presidente Gabriele Ferrieri. Per leggere tutti gli articoli clicca qui. 

L’ecosistema delle startup e dell’innovazione in Italia continua la sua crescita guardando ad un’economia sempre più orientata al digitale. L’importanza di promuovere incentivi e maggiore attrattività degli investimenti risulta essere una priorità sia per il Governo italiano che per l’Unione Europea.

Se da un lato c’è la necessità di colmare questo divario digitale, dall’altro c’è l’obbligo di supportare maggiormente le future generazioni per disincentivare fenomeni quali la fuga dei cervelli e il cosiddetto fenomeno dei Neet, cioè quei giovani che non studiano e non lavorano in Italia.

Con questa dovuta premessa, è importante sottolineare come nel mondo dell’innovazione, gli investimenti legati a progetti sulla sicurezza cibernetica risultano essere una grande opportunità di sviluppo per l’ecosistema paese, da un lato per salvaguardare gli spazi digitali e dall’altro per garantire la sicurezza dei dati.

Molti sono i dibattiti oggi nel quale vengono chiamati esperti del settore della cybersecurity, istituzioni e agenzie preposte per le public policy legati alla sicurezza e aziende di eccellenza in diversi settori merceologici. Nel corso del 2024 di particolare rilevanza l’incontro promosso dall’Associazione Nazionale Giovani Innovatori lo scorso 16 Aprile in merito alla quarta edizione dell’Innovation Cybersecurity Summit. Una manifestazione promossa dalle principali istituzioni italiane ed europee, che ha visto la presenza del gotha del mondo della cybersecurity. L’occasione della conferenza è stata propizia anche per la presentazione del manifesto dei giovani innovatori nelle mani del Governo su tre punti cardine per lo sviluppo del mondo innovazione per la difesa.

In un contesto geopolitico caratterizzato negli ultimi mesi da situazioni difficili legate alle vicende internazionali sulle situazioni conflittuali in Israele, Ucraina e Russia, si evidenzia pertanto ancor di più l’importanza di un impegno per rafforzare la capacità diplomatica mirata a una risoluzione pacifica dei conflitti e allo stesso tempo alla capacità di guardare all’innovazione come punto cardine per la sicurezza della popolazione e per una crescita economica e sociale che punti all’inclusione e al benessere.

L’impegno portato avanti in questi mesi da parte dell’Unione Europea sulla gestione dei fondi del piano nazionale di ripresa e resilienza che e sul dialogo internazionale promosso dal G7 a Presidenza italiana, ha messo in luce tutte quelle buone pratiche legate alla transizione ecologica e digitale che guardi alla sostenibilità, al rispetto dell’ambiente e ad un maggiore impegno nello sviluppo delle imprese e dell’accrescimento economico.

Fondamentale sarà mantenere tale impegno e soprattutto renderlo il più concreto possibile in quanto il mettere a terra queste progettualità sarà fondamentale per il rilancio dei territori e soprattutto per una maggiore capacità di attrarre investimenti per un’Italia, riacquistando così la sua centralità nell’area del Mediterraneo e colmando le sue lacune come ecosistema innovativo e imprenditoriale rispetto agli altri Stati membri dell’Unione Europea.

Le innovazioni quali l’intelligenza artificiale, la robotica e la sicurezza cibernetica infine rappresentano sicuramente tre punti su cui si concentreranno i maggiori investimenti e l’auspicio è che ci possa essere una partecipazione di tutti i principali attori dell’ecosistema economico italiano ed europeo al fianco delle istituzioni preposte per gestire nel migliore dei modi questo percorso, mettendo al centro i giovani, le startup e il benessere della cittadinanza.

https://www.key4biz.it/innovazione-investimenti-e-cybersecurity-opportunita-e-sviluppo-per-litalia/488514/




AI, Apple ‘ruba’ 36 esperti a Google. C’entra il nuovo laboratorio di Zurigo?

Rubare i migliori talenti per inseguire la corsa all’intelligenza artificiale. Secondo un’indagine del Financial Times, Apple ha effettuato un’azione di recruiting negli ultimi 6 mesi che ha coinvolto almeno 36 specialisti Google nell’ambito dell’IA.

Secondo il FT, che ha incrociato centinaia di profili LinkedIn, annunci di lavoro pubblici e documenti di ricerca, negli ultimi anni Apple ha intrapreso una serie di assunzioni per espandere il suo team globale di Ai e Machine Learning. Il produttore di iPhone ha preso di mira in particolare i lavoratori di Google, attirando almeno 36 specialisti da quando, nel 2018, ha reclutato John Giannandrea come proprio massimo dirigente nel campo dell’intelligenza artificiale.

E sebbene buona parte del team lavori negli uffici californiani e di Seattle (USA), il gigante avrebbe creato un laboratorio segreto a Zurigo, in Svizzera. Sarebbe frutto delle acquisizioni messe a segno da Apple in terra elvetica: conosciuto come Vision Lab, la nuova location della società guidata da Tim Cook, è nata dopo l’acquisto di realtà come FaceShift (realtà virtuale) e Fashwell (riconoscimento immagini).

Apple impegnata nel far evolvere l’assistente digitale Siri migrandolo verso un’architettura neurale per il riconoscimento vocale

Fonti vicine alla multinazionale statunitense suggeriscono che Apple sarebbe impegnata nella messa a punto di modelli generativi innovativi capaci di funzionare sui dispositivi dotati di una configurazione hardware complessivamente modesta, anziché su server dislocati all’interno dei data center.

D’altra parte risale ad appena qualche giorno fa la notizia del lancio di OpenELM, modello generativo aperto che funziona su iPhone e iPad. Pur preferendo non anticipare alcuna informazione tecnica, lo stesso CEO Tim Cook ha dichiarato che Apple “sta conducendo ricerche su un’ampia gamma di tecnologie di intelligenza artificiale” e sta investendo e innovando “responsabilmente” intorno alle nuove soluzioni in corso di sviluppo.

Uno degli obiettivi primari di Apple sarebbe quello di far evolvere l’assistente digitale Siri migrandolo verso un’architettura neurale per il riconoscimento vocale. Chuck Wooters, esperto di intelligenza artificiale conversazionale e Large Language Models (LLM), ha lavorato sul miglioramento di Siri per quasi due anni, a partire da dicembre 2013. Già così tanti anni fa, i vertici di Apple erano grandi sostenitori delle reti neurali, ben prima che gli LLM cominciassero ad affermarsi e a mostrare le loro incredibili potenzialità. Si pensi che il documento “Attention Is All You Need” di Google è del 2017 (concetto dei Transformer) mentre il chatbot ChatGPT di OpenAI (con il sottostante modello GPT, Generative pre-trained transformer) è di novembre 2022.

Presto l’AI di ChatGPT nei nuovi iPhone

Secondo le ultime indiscrezioni di Bloomberg, rappresentanti di Apple avrebbero incontrato le controparti di OpenAI, l’azienda che sviluppa ChatGpt, per capire in che modo integrare il famoso chatbot all’interno di iOS 18, il sistema operativo per iPhone che verrà lanciato in autunno e, in anteprima, alla conferenza per sviluppatori Wwdc 2024 di giugno.

Bllomberg spiega che questa mossa non chiude le porte alla possibilità di collaborazione tra Apple e Google per portare a bordo del melafonino Gemini, l’IA di Big G. Quest’ultimo verrebbe inserito nelle funzionalità di ricerca web dello smartphone, mentre ChatGpt, o parte di esso, sarebbe il motore alla base del nuovo Siri, ossia una versione aggiornata dell’assistente digitale che Apple ha reso disponibile per la prima volta nel 2011, con iOS 5. Ad oggi, ChatGpt è presente come app indipendente da scaricare sui dispositivi della Mela.

Ad ogni modo, per Bloomberg le partnership con OpenAI e Google sposterebbero più in là lo sviluppo di un’intelligenza artificiale totalmente a marchio Apple, con il colosso che comincerebbe intanto ad abituare gli utenti iPhone alle funzionalità di IA, da internalizzare in un secondo momento.

Intanto, l’azienda di Cupertino ha rimosso dal suo negozio di app, l’App Store, alcuni software utilizzati per generare immagini con l’IA, perché capaci di creare anche contenuti di nudo. Ad attirare l’attenzione di Apple è stato un report di 404media, che ha individuato un certo numero di app che, tramite i social, sponsorizzavano la possibilità di sfruttare l’intelligenza artificiale generativa per realizzare foto di donne svestite. “Segno – scrive 404media – che le aziende tech stanno diventando più veloci nell’intraprendere azioni contro gli usi illeciti della tecnologia IA”.

https://www.key4biz.it/ai-apple-ruba-36-esperti-a-google-centra-il-nuovo-laboratorio-di-zurigo/488334/




AI Chip. Nvidia fa spesa di startup israeliane, dopo Run:ai potrebbe essere la volta di Deci

Dopo Run:ai è la volta della startup Deci AI

L’onda dell’intelligenza artificiale (AI) porta sulla cresta sempre più startup. A guidare questo processo di crescita è il mercato delle acquisizioni e delle fusioni, con i movimenti delle Big Tech, tra cui Nvidia.

Secondo The Information, proprio il colosso americano della chip industry potrebbe chiudere l’acquisizione della startup israeliana Deci. Il valore della transazione non è stato reso noto, ma secondo indiscrezioni stampa si potrebbe aggirare su una cifra inferiore rispetto a quella sborsata per Run:ai, che è stata di quasi 700 milioni di dollari.

Run:ai fornisce software di gestione e orchestrazione dei carichi di lavoro basati su Kubernetes e nella strategia Nvidia dovrebbe consentire ai clienti aziendali di gestire e ottimizzare le proprie infrastrutture di calcolo, sia on-premise, sia nel cloud e in altri ambienti ibridi.

La compressione dei modelli linguistici di Gen AI

Mentre Run:ai migliora l’efficienza di ciascun chip e consente di eseguire su di esso un numero maggiore di applicazioni e carichi di lavoro, Deci “comprime” i modelli linguistici AI generativi e consente loro di lavorare in modo più efficiente su ciascun server Nvidia.

Deci è stata fondata nel 2019 da Yonatan Geifman, Ran El-Yaniv e Jonathan Elial. Fino ad oggi ha raccolto 55 milioni di dollari tramite investitori internazionali, tra cui Emerge ed Insight Partners.

Deci AI per Microsoft

Nel 2022 Nvidia ha anche annunciato l’acquisizione della startup Excelero con sede a Tel Aviv, fornitore di storage definito dal software ad alte prestazioni.

Il quotidiano online Globes ha recentemente rivelato che Microsoft ha iniziato a integrare Deci AI nel suo store di intelligenza artificiale Azure AI Studio, dove Deci compete non solo con OpenAI ma anche con il codice aperto di Meta e della società francese Mistral, nonché con gli stessi modelli di Nvidia.

https://www.key4biz.it/ai-chip-nvidia-fa-spesa-di-startup-israeliane-dopo-runai-potrebbe-essere-la-volta-di-deci/488274/




Come funziona Vasa-1, la nuova AI di Microsoft che sfida Sora di OpenAI

La divisione di Microsoft in Asia ha presentato un nuovo progetto di intelligenza artificiale, chiamato Vasa-1, che può realizzare video di persone partendo solo da una loro foto.

La piattaforma, concorrente di Sora, il software sviluppato dal creatore di ChatGpt, OpenAI, può anche replicare la voce di un individuo, con solo pochi secondi di esempi campionati. L’intento è, per i ricercatori, “aprire la strada a interazioni con avatar realistici che emulano comportamenti umani”. Il risultato finale apre a ulteriori domande sulle capacità di distinguere un contenuto generato dall’IA da uno reale.

Al momento, Vasa-1 è solo un esperimento dei laboratori di Microsoft Research e non un programma pensato per un utilizzo ampio. Il colosso americano ha pubblicato diversi esempi in cui si vedono volti, ad un primo sguardo verosimili, pronunciare varie frasi. Anche se i movimenti delle labbra e della testa potrebbero sembrare artefatti, il potenziale rischio di uso della tecnologia per diffondere deepfake, filmati fasulli, è alto. I ricercatori stessi ne sono consapevoli e per questo hanno deciso di non rilasciare “una demo, un prodotto e ulteriori dettagli di implementazione o qualsiasi offerta correlata” finché non saranno sicuri che la loro tecnologia “sarà utilizzata in modo responsabile e in conformità con le corrette procedure”.

Secondo il documento di Microsoft, Vasa-1 è stato addestrato sul set di dati VoxCeleb2, che contiene “oltre 1 milione di espressioni di 6.112 individui celebri” estratte dai video di YouTube. Anche se lo strumento è stato addestrato su volti reali, Microsoft dimostra che Vasa-1 può funzionare anche su disegni e opere. Gli esperti hanno combinato la Mona Lisa con un file audio dell’attrice Anne Hathaway. “Pur riconoscendo la possibilità di un uso improprio, i vantaggi dell’IA per video vanno dall’equità educativa al miglioramento dell’accessibilità per le persone con difficoltà di comunicazione, fino alla compagnia o il supporto terapeutico a chi ne ha bisogno” spiega Microsoft.

Niente demo pubblica per evitare abusi

Nonostante le sue potenzialità, il team di Microsoft è consapevole che VASA-1 potrebbe essere utilizzato in modo improprio, ad esempio per creare contenuti fuorvianti o ingannevoli. Pertanto, i ricercatori hanno deciso di non rilasciare una demo online, un’API o un prodotto fino a quando non saranno certi che la tecnologia sarà utilizzata in modo responsabile e in conformità con le normative appropriate.

L’intelligenza artificiale sta facendo passi da gigante nel ricreare le espressioni umane, ma la strada è ancora lunga. Inoltre, sarà fondamentale garantire che sistemi di questo tipo siano utilizzati in modo etico e responsabile, per evitare possibili abusi e inganni.

https://www.key4biz.it/come-funziona-vasa-1-la-nuova-ai-di-microsoft-che-sfida-sora-di-openai/487583/




AI, priorità alla difesa del diritto d’autore

Butti: “Primi in Europa a votare un Ddl sull’AI”

Per sistema di “intelligenza artificiale” (AI) si intende “un sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali”, si legge nell’incipit dello schema di disegno di legge recante disposizioni e delega al Governo in materia di intelligenza artificiale.

Con il termine “dato”, invece, ci si riferisce a qualsiasi rappresentazione digitale di atti, fatti o informazioni e qualsiasi raccolta di tali atti, fatti o informazioni, anche sotto forma di registrazione sonora, visiva o audiovisiva.

Il testo è stato approvato dal Consiglio dei ministri, su proposta del Presidente Giorgia Meloni e del Ministro della giustizia Carlo Nordio, con l’obiettivo di individuare criteri regolatori capaci di riequilibrare il rapporto tra le opportunità che offrono le nuove tecnologie e i rischi legati al loro uso improprio, al loro sottoutilizzo o al loro impiego dannoso.

“Il Governo italiano è il primo a livello europeo che vota un disegno di legge sull’intelligenza artificiale dopo la votazione finale dell’Europarlamento sull’AI Act. Il disegno di legge sull’Intelligenza Artificiale definisce senza equivoci chi elabora la strategia, ovvero Palazzo Chigi, sarà aggiornata ogni due anni e sottoposta ai colleghi di governo. Abbiamo pensato a due autorità, Agid e Acn, già dotare di profili che consentono questo tipo di vigilanza“, ha detto il sottosegretario all’Innovazione Tecnologica, Alessio Butti, nel corso della conferenza stampa.

“Abbiamo pensato di non adottare il modello spagnolo – ha aggiunto – il Paese che prima di noi ha legiferato in materia. La strategia nazionale mira ad una attenzione particolare per l’uomo – ha aggiunto Butti – mette assieme amministrazioni pubbliche e soggetti privati, promuove la ricerca, per dotare il Paese di una politica industriale in tema di IA, che oggi non esiste. Molte cose saranno attuate con norme secondarie, Dpcm e regolamenti“.

Centralità e difesa del diritto d’autore

Cinque gli ambiti principali normati: la strategia nazionale, le autorità nazionali, le azioni di promozione, la tutela del diritto di autore, le sanzioni penali.

Tornando al punto di partenza, “il dato”, è chiaro che l’AI, in particolare l’AI generativa, gioca oggi un ruolo fondamentale nella produzione di contenuti digitali di natura audiovisiva e nei prossimi anni un fiume di applicazioni dedicate cambieranno in profondità mercato e normativa.

Ad occuparsi di questo tema così rilevante, anche in termini di fatturato, investimenti e posti di lavoro, c’è il CAPO IV del testo, “disposizioni a tutela degli utenti e in materia di diritto d’autore”, art.

23, (“identificazione dei contenuti testuali, fotografici, audiovisivi e radiofonici prodotti da sistemi di intelligenza artificiale”).

Il primo punto è definire in maniera chiara e senza fraintendimenti che ogni contenuto generato da AI deve essere riconosciuto e riconoscibile come tale, “mediante inserimento di un elemento o segno identificativo, anche in filigrana o marcatura incorporata purché chiaramente visibile e riconoscibile, con l’acronimo “IA” ovvero, nel caso audio, attraverso annunci audio ovvero con tecnologie adatte a consentire il riconoscimento”.

Barachini: “Priorità all’identificazione dei contenuti prodotti con l’AI”

Piattaforme di grandi dimensioni, come YouTube ad esempio, forniranno agli utenti funzionalità dedicate proprio a questo, cioè che consentono di dichiarare se i contenuti sono generati da esseri umani o sistemi di AI.

Nell’ambito della legge sul diritto d’autore si prevede una disciplina specifica per le opere create con l’ausilio di sistemi di intelligenza artificiale, assicurando l’identificazione delle opere e degli altri materiali il cui utilizzo non sia espressamente riservato dai titolari del diritto d’autore.

“Il presidente Meloni aveva annunciato misure a protezione dell’occupazione e la collaborazione di tutto il governo ha prodotto misure che saranno efficaci per limitare questi rischi. Con la Commissione guidata da Padre Benanti abbiamo dato priorità alla difesa del diritto d’autore, all’identificazione dei contenuti prodotti con Ai e all’introduzione delle aggravanti e del reato di Deep Fake”, ha dichiarato il sottosegretario alla Presidenza del Consiglio con delega all’Informazione e all’Editoria, Alberto Barachini.

Le misure attuative sono definite con specifico regolamento dell’Autorità per le garanzie nelle comunicazioni.

l disegno di legge chiarisce che l’uomo resta al centro di ogni processo decisionale e si introduce il reato di “Illecita diffusione di contenuti generati o manipolati con sistemi di intelligenza artificiale“, punito con la reclusione fino a tre anni. Il governo definirà poi nuove fattispecie di reato con decreti legislativi ad hoc nei prossimi mesi.

https://www.key4biz.it/ai-priorita-alla-difesa-del-diritto-dautore/487788/