Photos of Brazilian kids—sometimes spanning their entire childhood—have been used without their consent to power AI tools, including popular image generators like Stable Diffusion, Human Rights Watch (HRW) warned on Monday.

This act poses urgent privacy risks to kids and seems to increase risks of non-consensual AI-generated images bearing their likenesses, HRW’s report said.

An HRW researcher, Hye Jung Han, helped expose the problem. She analyzed “less than 0.0001 percent” of LAION-5B, a dataset built from Common Crawl snapshots of the public web. The dataset does not contain the actual photos but includes image-text pairs derived from 5.85 billion images and captions posted online since 2008.

Among those images linked in the dataset, Han found 170 photos of children from at least 10 Brazilian states. These were mostly family photos uploaded to personal and parenting blogs most Internet surfers wouldn’t easily stumble upon, “as well as stills from YouTube videos with small view counts, seemingly uploaded to be shared with family and friends,” Wired reported.

LAION, the German nonprofit that created the dataset, has worked with HRW to remove the links to the children’s images in the dataset.

That may not completely resolve the problem, though. HRW’s report warned that the removed links are “likely to be a significant undercount of the total amount of children’s personal data that exists in LAION-5B.” Han told Wired that she fears that the dataset may still be referencing personal photos of kids “from all over the world.”

Removing the links also does not remove the images from the public web, where they can still be referenced and used in other AI datasets, particularly those relying on Common Crawl, LAION’s spokesperson, Nate Tyler, told Ars.

“This is a larger and very concerning issue, and as a nonprofit, volunteer organization, we will do our part to help,” Tyler told Ars.

According to HRW’s analysis, many of the Brazilian children’s identities were “easily traceable,” due to children’s names and locations being included in image captions that were processed when building the dataset.

And at a time when middle and high school-aged students are at greater risk of being targeted by bullies or bad actors turning “innocuous photos” into explicit imagery, it’s possible that AI tools may be better equipped to generate AI clones of kids whose images are referenced in AI datasets, HRW suggested.

“The photos reviewed span the entirety of childhood,” HRW’s report said. “They capture intimate moments of babies being born into the gloved hands of doctors, young children blowing out candles on their birthday cake or dancing in their underwear at home, students giving a presentation at school, and teenagers posing for photos at their high school’s carnival.”

There is less risk that the Brazilian kids’ photos are currently powering AI tools since “all publicly available versions of LAION-5B were taken down” in December, Tyler told Ars. That decision came out of an “abundance of caution” after a Stanford University report “found links in the dataset pointing to illegal content on the public web,” Tyler said, including 3,226 suspected instances of child sexual abuse material. The dataset will not be available again until LAION determines that all flagged illegal content has been removed.

“LAION is currently working with the Internet Watch Foundation, the Canadian Centre for Child Protection, Stanford, and Human Rights Watch to remove all known references to illegal content from LAION-5B,” Tyler told Ars. “We are grateful for their support and hope to republish a revised LAION-5B soon.”

In Brazil, “at least 85 girls” have reported classmates harassing them by using AI tools to “create sexually explicit deepfakes of the girls based on photos taken from their social media profiles,” HRW reported. Once these explicit deepfakes are posted online, they can inflict “lasting harm,” HRW warned, potentially remaining online for their entire lives.

“Children should not have to live in fear that their photos might be stolen and weaponized against them,” Han said. “The government should urgently adopt policies to protect children’s data from AI-fueled misuse.”

Ars could not immediately reach Stable Diffusion maker Stability AI for comment.

https://arstechnica.com/?p=2030521

Reports of Apple signing a deal with OpenAI are true: ChatGPT is coming to your Apple gear.

First up is Siri, which can tap into ChatGPT to answer voice questions. If Siri thinks ChatGPT can help answer your question, you’ll get a pop-up permission box asking if you want to send your question to the chatbot. The response will come back in a window indicating that the information came from an outside source. This is the same way Siri treats a search engine (namely, Google), so how exactly Siri draws a line between ChatGPT and a search engine will be interesting. In Apple’s lone example, there was a “help” intent, with the input saying to “help me plan a five-course meal” given certain ingredient limitations. That sort of ultra-specific input is something you can’t do with a traditional search engine.

Siri can also send photos to ChatGPT. In Apple’s example, the user snapped a picture of a wooden deck and asked Siri about decorating options. It sounds like the standard generative AI summary features will be here, too, with Apple SVP of Software Engineering Craig Federighi mentioning that “you can also ask questions about your documents, presentations, or PDFs.”

All of the system-wide writing tools are getting ChatGPT as an input option, too. Apple showed off a new context menu that seems to shoot out of the text input indicator. It has options for proofreading and what seems like a bunch of generative AI features. It can rewrite your text in “friendly,” “professional,” or “concise” styles, and it can make a summary, list, or table.

It’s unclear which AI (Apple’s or OpenAI’s) is in charge of these options, but at the bottom, a “compose” button specifically launched a ChatGPT input box. In the demo, Apple gets started on a document with a text prompt, and generative text is filled into the open app—in this case, Pages. ChatGPT can also generate and insert pictures. ChatGPT access is free without needing to make an account, but if you’re already a paying customer, you can connect your account and get access to premium features.

ChatGPT features are launching on iOS 18, iPad OS 18, and macOS Sequoia “later this year,” which does not necessarily mean they will be ready for launch. Apple said it might add “support for other AI models in the future.” That Bloomberg article mentioned that Apple was also negotiating with Google, so its chatbot is a good guess for the next one.

Listing image by Apple

https://arstechnica.com/?p=2030392

On Monday, Apple debuted “Apple Intelligence,” a new suite of free AI-powered features for iOS 18, iPadOS 18, macOS Sequoia that includes creating email summaries, generating images and emoji, and allowing Siri to take actions on your behalf. These features are achieved through a combination of on-device and cloud processing, with a strong emphasis on privacy. Apple says that Apple Intelligence features will be widely available later this year and will be available as a beta test for developers this summer.

The announcements came during a livestream WWDC keynote and a simultaneous event attended by the press on Apple’s campus in Cupertino, California. In an introduction, Apple CEO Tim Cook said the company has been using machine learning for years, but the introduction of large language models (LLMs) presents new opportunities to elevate the capabilities of Apple products. He emphasized the need for both personalization and privacy in Apple’s approach.

At last year’s WWDC, Apple avoided using the term “AI” completely, instead preferring terms like “machine learning” as Apple’s way of avoiding buzzy hype while integrating applications of AI into apps in useful ways. This year, Apple figured out a new way to largely avoid the abbreviation “AI” by coining “Apple Intelligence,” a catchall branding term that refers to a broad group of machine learning, LLM, and image generation technologies. By our count, the term “AI” was used sparingly in the keynote—most notably near the end of the presentation when Apple executive Craig Federighi said, “It’s AI for the rest of us.”

The Apple Intelligence umbrella includes a range of features that require an iPhone 15 Pro, iPhone 15 Pro Max, iPad with M1 or later, or Mac with M1 or later. Devices also must have Siri enabled and set to US English. The features include notification prioritization to minimize distractions, writing tools that can summarize text, change tone, or suggest edits, and the ability to generate personalized images for contacts. The system, through Siri, can also carry out tasks on the user’s behalf, such as retrieving files shared by a specific person or playing a podcast sent by a family member.

Siri’s new brain

Apple says that privacy is a key priority in the implementation of Apple Intelligence. For some AI features, on-device processing means that personal data is not transmitted or processed in data centers. For complex requests that can’t run locally on a pocket-sized LLM, Apple has developed “Private Cloud Compute,” which sends only relevant data to servers without retaining it. Apple claims this process is transparent and that experts can verify the server code to ensure privacy.

Under Apple Intelligence, Siri gets a big boost with a new logo and on-screen design, a new ability to understand more nuanced requests, and the ability to answer questions about the system state or take actions on the user’s behalf.

Users can communicate with Siri using either voice or text input, and Siri can maintain context between requests.

The redesigned Siri also reportedly demonstrates onscreen awareness, allowing it to perform actions related to information displayed on the screen, such as adding an address from a Messages conversation to a contact card. Apple says the new Siri can execute hundreds of new actions across both Apple and third-party apps, such as finding book recommendations sent by a friend in Messages or Mail, or sending specific photos to a contact mentioned in a request.

https://arstechnica.com/?p=2030143

Finalmente è arrivata. Attesa, desiderata, paventata dalla concorrenza. La Mela ha svelato Apple Intelligence e il mondo dell’AI è pronto a essere rivoluzionato. La novità non è tanto nelle possibilità offerte dagli algoritmi di Cupertino né tantomeno dall’accordo con OpenAI per portare a bordo di iPhone, iPad e Mac, le risposte di ChatGpt senza soluzione di continuità. No, il vero sliding doors della tecnologia è l’infrastruttura dedicata che il colosso americano ha realizzato sopra cui costruire Apple Intelligence. Si chiama Private Cloud Computer ed è l’architettura di server che la società ha issato per far funzionare gli algoritmi e, contemporaneamente, preservare le informazioni dei suoi utenti, gestendo in prima persona l’infrastruttura. “Questa è l’IA di cui potete fidarvi” ha detto Tim Cook dal palco della WWDC 2024, la conferenza annaule per sviluppatori che quest’anno ha assunto un interesse particolare. Ma andiamo per step.

Capire il contesto

Apple Intelligence è in grado di comprendere e produrre testo e foto. Un esempio è la creazione di testi con il supporto di un chatbot che suggerisce le migliori frasi per un’email o un articolo. Per quanto riguarda le foto, l’IA riconosce le persone e le associa a informazioni come date di compleanno o conversazioni passate, proponendo grafiche dedicate come emoji di compleanno. Il tutto, secondo Apple, nel rispetto della privacy. Capire il contesto personale è stato fondamentale nello sviluppo dell’IA. Per questo, Apple Intelligence analizza i dati provenienti da app su smartphone, tablet e computer per capire le abitudini dell’utente e automatizzare diverse azioni, come organizzare appuntamenti, suggerire uscite o chiamate telefoniche. Stai scrivendo un’email di compleanno? Apple Intelligence suggerisce le frasi migliori per esprimere i tuoi auguri. Hai scattato una foto di gruppo? L’IA riconoscerà i tuoi amici e creerà automaticamente una grafica personalizzata per l’occasione. Hai un appuntamento importante? Apple Intelligence te lo ricorderà e ti suggerirà di chiamare il tuo contatto o di organizzare il tragitto.

L’Llm di Apple, restando sul dispositivo e condividendo pochissime informazioni con il cloud, crea una rete semantica per alimentare l’AI di bordo e farle capire sempre di più le abitudini dell’utente e ciò che succede nella sua vita digitale.

Siri diventa più intelligente e intuitiva

Siri, l’assistente vocale di Apple, riceve un importante aggiornamento con Apple Intelligence. Ora è in grado di comprendere il linguaggio naturale, interagire con le app installate per mostrare foto, creare appuntamenti o inviare email, trovare informazioni e suggerire azioni pertinenti all’interno delle app e dei servizi Apple.

Apple ha presentato diverse nuove app che sfruttano le capacità di Apple Intelligence.

Rewrite: Permette di riscrivere un testo usando parole diverse e sinonimi, con tre stili differenti tra cui scegliere.

Proofread: Formatta automaticamente i documenti, fornendo una sintesi e creando elenchi puntati.

Smart Reply: Suggerisce le migliori risposte alle email basandosi sul contesto del messaggio.

Genmoji: Crea nuove emoji partendo da descrizioni testuali.

Image Playground: Un’app per creare immagini personalizzate con l’aiuto di suggerimenti dall’IA.

Image Wand: Trasforma gli schizzi in vere e proprie opere d’arte.

iPhone e iPad

Il prossimo aggiornamento del software iPhone verrà distribuito agli utenti in autunno e, come previsto, uno dei cambiamenti più grandi è il supporto per Rich Communication Service o RCS. Il protocollo di messaggistica più sicuro offre molti miglioramenti rispetto agli SMS, inclusa la crittografia end-to-end, una migliore condivisione dei contenuti multimediali e il supporto per chat di gruppo adeguate. Apple aveva precedentemente dichiarato che avrebbe adottato il supporto per RCS nel 2024 per conformarsi alle normative UE, quindi non sorprende vederlo evidenziato nelle prossime funzionalità di iOS 18.

Un’altra novità di Messaggi sarà la possibilità di rispondere con “tapback” utilizzando emoji e adesivi, formattazione ed effetti del testo e la possibilità di inviare messaggi via satellite. Gli utenti iPhone avranno un maggiore controllo sulle loro schermate iniziali in iOS 18 grazie al fatto che non sarà più un sistema a griglia bloccata. Si potranno dunque spostare le icone delle app in modo più libero e modificare i colori delle icone. In termini di design e layout, questo è uno dei più grandi cambiamenti apportati alla schermata iniziale dell’iPhone negli ultimi anni e offre agli utenti iOS funzionalità simili ad Android.

Arriverà per la prima volta su iPad la “calcolatrice”, che per l’occasione si trasforma in uno strumento di calcolo avanzato. Basterà scrivere con la penna e disegnare grafici per avere soluzioni immediate, un paradiso per chi non ama troppo stare dietro a funzioni e operazioni. La funzionalità è chiamata Math Notes. iPadOS 18 presenterà anche una nuova barra delle schede, simile alla Dynamic Island sugli iPhone. Questa semplifica l’accesso ai controlli essenziali anche quando si è nelle app e, a seconda di cosa si sta facendo, e può essere visualizzata nella parte superiore dello schermo o come una sorta di barra laterale sulla sinistra del display. L’app Notes si aggiorna con Smart Script, che renderà automaticamente la scrittura degli utenti più leggibile e meno disordinata.

macOS

La prossima iterazione del software per computer di Apple si chiamerà macOS Sequoia. Oltre a molte delle funzionalità AI in arrivo su iOS e iPadOS 18 come parte di Apple Intelligence, il prossimo aggiornamento macOS includerà il mirroring dell’iPhone, per vedere e controllare lo schermo del proprio iPhone su uno schermo Mac. Tutto molto simile a quanto avviene da anni su Windows con smartphone Android. Vociferata giorni fa, arriva anche Passwords, app che si basa sulla tecnologia del portachiavi iCloud per salvare tutte le password e le credenziali di accesso degli utenti su dispositivi e piattaforme (sarà disponibile su Windows oltre a tutte le piattaforme Apple). Insieme alle password standard, la nuova app può salvare passkey, codici di verifica e altro ancora e offrire agli utenti la possibilità di condividere in modo sicuro le chiavi con altri.

watchOS

Training Load e una nuova app Vitals sono i due focus per Apple Watch. Il primo, in watchOS 11 utilizza essenzialmente molte delle metriche di salute e fitness raccolte durante il monitoraggio dell’allenamento per stimare ogni volta il livello di sforzo. Ogni allenamento riceverà una valutazione da uno (facile) a dieci (tutto completato) che stima quanto duramente l’utente ha lavorato durante quella particolare sessione. La nuova app Vitals mostrerà agli utenti di Apple Watch come i loro parametri vitali rilevati, inclusa la frequenza cardiaca, si confrontano con le misurazioni di base. Si spera che ciò consenta di capire meglio quando qualcosa potrebbe essere sbagliato e al di fuori del normale intervallo suggerito. Cambia l’app Attività su iPhone con cui personalizzare i dati che si vedono sulla home page in modo da poter mettere in primo piano le statistiche più importanti.

VisionPro

Finora, i visori Vision Pro di Apple erano disponibili solo negli Stati Uniti. Poche speranze di vederli in Italia e infatti gli accessori (costosi) debutteranno in Australia, Canada, Cina, Francia, Germania, Giappone, Singapore e Regno Unito. Per quanto riguarda il software, visionOS 2 aggiungerà le foto spaziali, immagini con profondità di campo per essere “navigate” in realtà mista. INoltre, per la prima volta, Canon metterà in vendita delle lenti per la sua fotocamera Eos R7 apposta per registrare video spaziali.

I vari iOS 18, iPadOs 18, watchOS 11, VisionPro 2, macOS Sequoia, tvOs, arriveranno in autunno su dispositivi supportati. Apple Intelligence sarà un’esclusiva dagli iPhone 15 Pro in poi.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/ecco-apple-intelligence-adesso-microsoft-e-google-cominciano-a-tremare/493628/

Le nuove regole dell’UE renderebbero le aziende responsabili per l’uso improprio della tecnologia, ma i critici sostengono che i regolatori dovrebbero intervenire solo se necessario.

Perché la regolazione dell’AI è necessaria?

Le autorità di regolamentazione di tutto il mondo hanno riscontrato che non mancano i problemi di cui preoccuparsi con l’ascesa dell’intelligenza artificiale.

Il dilemma è chiaro, si legge in un’analisi del Financial Times: le autorità dovrebbero o meno intervenire negli algoritmi che potrebbero influenzare o distorcere le decisioni che influenzano la vita quotidiana di miliardi di persone?

Che dire del rischio che i chatbot, come ChatGPT, aumentino la produzione di disinformazione online o portino all’uso improprio di grandi quantità di dati personali?

E cosa dovrebbero fare riguardo al fatto che i computer potrebbero presto raggiungere un livello di intelligenza tale da sfuggire al controllo dei loro creatori, con conseguenze potenzialmente disastrose per l’umanità?

La tecnologia si sta muovendo così velocemente – e i rischi potenziali sono, in alcuni casi, così poco compresi e immaginabili – che c’è ancora poco accordo su un’agenda normativa condivisa.

Quali problemi di intelligenza artificiale stanno esaminando per primi i regolatori?

L’Unione Europea era sulla buona strada per finalizzare una legge sull’intelligenza artificiale, la prima nel suo genere, che avrebbe controllato, o addirittura vietato, i sistemi di intelligenza artificiale presumibilmente “ad alto rischio”, come quelli utilizzati per prendere decisioni su richieste di lavoro, o prestiti, o trattamenti sanitari. Poi è esplosa la ChatGPT mania: l’enorme interesse del pubblico per il chatbot AI generativo disponibile gratuitamente di OpenAI.

I legislatori hanno rapidamente adattato i loro piani per includere i cosiddetti modelli di base, come il grande modello linguistico che si trova dietro ChatGPT.

Le norme dell’UE obbligherebbero le aziende a rivelare su quali dati sono stati addestrati questi modelli e potrebbero renderle responsabili per l’uso improprio della tecnologia, anche quando non controllano le applicazioni finali.

Tuttavia, Patrick Van Eecke, co-presidente della divisione cyber, dati e privacy globale dello studio legale Cooley, ritiene che Bruxelles si sia mossa troppo presto per cercare di regolamentare una tecnologia che è ancora “un bersaglio in movimento”, riflettendo un pregiudizio culturale verso ogni tipo di regolamento. “Ci piace regolare la realtà ancor prima che diventi realtà”, ha detto, facendo eco a una visione ampiamente condivisa nel mondo dell’intelligenza artificiale.

Molti dirigenti tecnologici statunitensi, però, hanno una spiegazione diversa. Lo vedono come una mossa protezionistica deliberata da parte dell’UE, che impone limitazioni a un gruppo di aziende principalmente americane che dominano l’industria dell’intelligenza artificiale.

La regolamentazione europea dell’AI diventerà un modello globale?

Questo è quello che è successo con la legislazione sulla protezione dei dati della Ue, ed è un potenziale sviluppo di cui le aziende tecnologiche statunitensi sono preoccupate. I sostenitori dell’EU Act affermano che sarà applicato in modo flessibile per riflettere il cambiamento degli standard e i progressi tecnologici. Ma i critici sostengono che l’esperienza dimostra che Bruxelles adotta un approccio più dogmatico e che le regole introdotte ora potrebbero limitare l’evoluzione della tecnologia. Alcune aziende europee sono d’accordo. In una lettera alla Commissione Europea di giugno, 150 grandi aziende europee hanno avvertito che la legge potrebbe ostacolare l’economia del dell’Unione impedendo alle aziende locali di utilizzare liberamente importanti tecnologie di intelligenza artificiale. Una versione finale della legge deve essere elaborata in un negoziato a tre tra Parlamento, Commissione e Consiglio degli Stati membri, il che significa che c’è ancora una possibilità di cambiamenti.

Le aziende di intelligenza artificiale non chiedono una regolamentazione?

L’industria dell’intelligenza artificiale ha imparato dalla reazione contro i social media che non conviene eludere la regolamentazione sulle tecnologie che possono avere un impatto sociale e politico significativo. Ma ciò non significa che a loro piaccia ciò che è pianificato dall’UE. Sam Altman, capo di OpenAI e sostenitore della regolamentazione dell’intelligenza artificiale, ha dichiarato al FT che la sua azienda potrebbe essere costretta a ritirarsi del tutto dall’UE se le regole finali sull’intelligenza artificiale saranno troppo rigide. Il clamore suscitato dalle sue parole lo ha portato rapidamente a fare marcia indietro ma, dietro le quinte, le preoccupazioni degli Stati Uniti non sono attenuate. La disponibilità delle grandi aziende tecnologiche a richiedere una regolamentazione ha anche suscitato il sospetto che la vedano come un modo per rafforzare la loro presa sul mercato dell’intelligenza artificiale. Costi e burocrazia più elevati potrebbero rendere più difficile l’ingresso di nuovi concorrenti.   Qual è l’alternativa all’approccio dell’UE? Prima di decidere nuove leggi, molti paesi stanno esaminando da vicino il modo in cui le normative esistenti si applicano alle applicazioni basate sull’intelligenza artificiale. Negli Stati Uniti, ad esempio, la Federal Trade Commission ha aperto un’indagine su ChatGPT, sfruttando i suoi poteri esistenti. Una delle sue preoccupazioni è che ChatGPT risucchi dati personali e talvolta li utilizzi per produrre informazioni false e dannose sulla gente comune. A differenza dei loro omologhi europei, i legislatori statunitensi hanno anche intrapreso un’ampia revisione dell’intelligenza artificiale che cerca esplicitamente di bilanciare i benefici della tecnologia con i suoi potenziali danni. Il leader della maggioranza al Senato americano Chuck Schumer ha chiesto una serie di briefing e forum di esperti per le più importanti commissioni del Senato, per aiutarli a decidere quali aspetti dell’intelligenza artificiale potrebbero aver bisogno di essere regolamentati. Holly Fechner, co-presidente del gruppo dell’industria tecnologica presso lo studio legale Covington & Burling, ha detto: “Il significativo bipartisanship del Congresso sulla concorrenza degli Stati Uniti con la Cina” rende l’approccio di Schumer “un messaggio vincente – e segnala che gli Stati Uniti si stanno muovendo in una direzione diversa”. Direzione diversa rispetto all’Europa”.

Se i governi non regolano ora, la corsa all’intelligenza artificiale non diventerà un pericoloso gioco tutti contro tutti?

Molte aziende tecnologiche sostengono che lo sviluppo dell’intelligenza artificiale dovrebbe rispecchiare gli albori di Internet: i regolatori allora si tennero a distanza, lasciando che l’innovazione prosperasse, e intervennero solo più tardi, se necessario. Ci sono già segnali che nuovi standard di settore e accordi sulle migliori pratiche nel campo dell’intelligenza artificiale stanno iniziando a prendere piede, anche senza una regolamentazione esplicita. Negli Stati Uniti, ad esempio, l’industria ha collaborato con il National Institute for Standards and Technology per codificare i modi migliori per progettare, addestrare e implementare sistemi di intelligenza artificiale. Ci sono stati anche impegni a divulgare di più come funzionano i modelli di grandi dimensioni e quali dati sono stati utilizzati per addestrarli, anche se non è chiaro come saranno le future aziende. Intanto non mancano proposte per nuovi sistemi di “watermarking” per verificare se i contenuti online siano stati prodotti da un sistema di intelligenza artificiale generativa piuttosto che da una persona. L’incapacità di fare progressi su questi e altri fronti accelererebbe notevolmente le richieste di regolamentazione.  

Alcune persone che sviluppano l’intelligenza artificiale affermano che potrebbe distruggere l’umanità: non è questo un motivo per una regolamentazione immediata?

Nessuno nel settore tecnologico pensa che gli odierni sistemi di intelligenza artificiale rappresentino una minaccia esistenziale per l’umanità e non c’è accordo su quando, se mai, la tecnologia potrebbe raggiungere quel punto. Ma, all’inizio di quest’anno, una lettera aperta firmata da molti tecnologi chiedeva una moratoria di sei mesi sul lavoro sui sistemi più avanzati, per avere il tempo di elaborare nuovi protocolli di sicurezza. Sebbene i governi abbiano iniziato a prendere in considerazione la questione, sarebbero necessari nuovi accordi internazionali per cercare di controllare la diffusione dell’intelligenza artificiale pericolosa. Anche in questo caso, tali sforzi potrebbero rivelarsi impraticabili, data l’ampia disponibilità di risorse informatiche e set di dati necessari per addestrare i sistemi di intelligenza artificiale. Per ora, le stesse aziende che stanno guidando la corsa verso l’intelligenza artificiale affermano di essere anche in prima linea nel tentativo di frenarla. OpenAI ha dichiarato a luglio che stava creando un team interno per iniziare a ricercare modi per controllare computer “superintelligenti”, che si pensa potrebbero arrivare entro questo decennio. La soluzione proposta: un nuovo sistema di intelligenza artificiale per controllare l’intelligenza artificiale.    

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/come-sara-regolata-lai-pugno-di-ferro-o-regole-light/493596/

Microsoft ha annunciato importanti modifiche alla funzionalità Recall basata sull’intelligenza artificiale recentemente svelata, parte della nuova linea di PC Copilot+ , in risposta alle aspre critiche dei ricercatori di sicurezza sui potenziali rischi per la privacy.

La società ha affermato che attiverà la funzionalità come opzione, richiedendo l’autenticazione biometrica per accedere ai dati archiviati. Introdotta il mese scorso, Recall è stata pubblicizzata come una funzionalità innovativa in grado di acquisire automaticamente schermate mentre gli utenti lavoravano, consentendo loro di effettuare ricerche nella cronologia informatica utilizzando query in linguaggio naturale. Ma gli esperti di sicurezza hanno rapidamente alzato i campanelli d’allarme , avvertendo che la vasta raccolta di dati della funzionalità e la mancanza di protezioni solide hanno creato gravi vulnerabilità nella privacy e nella sicurezza.

In un post sul blog, Pavan Davuluri, vicepresidente aziendale di Microsoft per i dispositivi Windows +, ha riconosciuto il “chiaro segnale” dei critici secondo cui l’azienda aveva bisogno di rafforzare le protezioni e rendere più semplice per gli utenti scegliere se abilitare Recall. Le modifiche, che verranno implementate prima del rilascio pubblico il 18 giugno, includono:

• Attivazione del richiamo durante la configurazione del PC, con la funzionalità disattivata per impostazione predefinita
• Richiesta di registrazione biometrica di Windows Hello e la “prova di presenza” per visualizzare la cronologia di Recall ed effettuare ricerche nei suoi contenuti
• Aggiunta della decrittografia “just in time” del database Recall protetto da Windows Hello Enhanced Sign-in Security (ESS)
• Crittografia del database dell’indice di ricerca

La crittografia aggiuntiva è particolarmente degna di nota, poiché dovrebbe rendere molto più difficile per gli aggressori o gli utenti non autorizzati accedere ai dati potenzialmente sensibili catturati da Recall anche se riescono ad accedere al database. Gli screenshot archiviati verranno ora crittografati due volte e potranno essere decrittografati solo con i dati biometrici dell’utente autenticato sul dispositivo registrato.

Non esente da problemi

I critici, tra cui importanti aziende di sicurezza informatica e difensori della privacy, hanno sostenuto che l’archiviazione e l’elaborazione persistenti delle catture di schermo potrebbero diventare un bersaglio per attori malintenzionati. La protesta ha raggiunto l’apice quando un rapporto della BBC ha evidenziato vulnerabilità che potrebbero essere potenzialmente sfruttate per accedere a informazioni sensibili senza un adeguato consenso dell’utente. In risposta alle critiche, Microsoft ha pubblicato un post sul proprio Windows Experience Blog in cui descrive in dettaglio la decisione di rendere Recall una funzionalità di attivazione durante la fase di anteprima. “La privacy e la sicurezza sono fondamentali”, afferma il post, sottolineando che la società sta adottando misure per rivalutare l’impatto della funzionalità sulla privacy degli utenti.

Il futuro di Recall: bilanciare l’innovazione con la fiducia degli utenti

La decisione di attivare la funzionalità è stata accolta con reazioni contrastanti. Alcuni analisti del settore lodano Microsoft per aver intrapreso azioni rapide in risposta al feedback degli utenti. “A quanto pare parlare apertamente funziona”, ha affermato Kevin Beaumont, un ricercatore di sicurezza informatica in un post su X.

Microsoft si è impegnata a effettuare un esame e una revisione approfonditi delle misure di sicurezza di Recall. La società prevede di condurre test con utenti selezionati che aderiranno all’anteprima per raccogliere più dati e perfezionare il quadro di sicurezza. Questo incidente sottolinea il delicato equilibrio che le aziende tecnologiche devono mantenere tra l’innovazione con tecnologie AI all’avanguardia e la garanzia della privacy e della sicurezza dei propri utenti. Evidenzia inoltre il ruolo crescente del controllo pubblico e degli esperti nel modellare lo sviluppo e l’implementazione delle nuove tecnologie nell’era digitale. Mentre Microsoft affronta queste sfide, la comunità tecnologica e i suoi utenti seguiranno senza dubbio da vicino l’evoluzione di Recall, che ha già creato un precedente per le future integrazioni dell’intelligenza artificiale nella tecnologia di consumo.

Leggi le altre notizie sull’home page di Key4biz

https://www.key4biz.it/microsoft-ci-ripensa-recall-sara-solo-opzionale-e-con-una-doppia-crittografia/493535/

Un giorno storico per la scienza e la tecnologia italiana. Il 29 maggio è stato inaugurato presso l’Università degli Studi di Napoli Federico II il primo computer quantistico superconduttivo del Paese. Un traguardo frutto di anni di ricerca e collaborazione tra università, enti di ricerca e aziende, che posiziona l’Italia tra i protagonisti del panorama internazionale del calcolo quantistico.

Il nuovo computer, dotato di un processore a 24 qubit (unità di informazione quantistica), è ospitato all’interno del Dipartimento di Fisica “E. Pancini” dell’Ateneo federiciano. Si tratta di un dispositivo che sfrutta le proprietà della meccanica quantistica per effettuare calcoli ben oltre le capacità dei computer tradizionali.

Un passo avanti per la scienza e l’industria

“Questo processore è un miracolo della natura e dell’ingegno umano”, ha dichiarato Francesco Tafuri, docente dell’Università Federico II e responsabile del centro di computazione quantistica superconduttiva. “Apre la strada a nuove applicazioni che potranno accelerare la soluzione di problemi attualmente irrisolvibili, in settori come la medicina, la chimica, i materiali e l’intelligenza artificiale”.

Il computer quantistico napoletano avrà anche un impatto significativo sull’industria, favorendo lo sviluppo di nuovi prodotti e processi produttivi più efficienti. “L’obiettivo è quello di creare una filiera italiana del calcolo quantistico”, ha spiegato Tafuri, “in grado di soddisfare la domanda di hardware, software e competenze dedicate”.

Un investimento per il futuro

Il progetto del primo computer quantistico italiano è stato finanziato dal Centro Nazionale di Ricerca High Performance Computing, Big Data and Quantum Computing (ICSC) con un contributo di 4,5 milioni di euro. “Questo è solo il primo passo”, ha sottolineato Antonio Zoccoli, presidente della Fondazione ICSC. “L’Italia ha tutte le carte in regola per diventare un leader nel calcolo quantistico, e noi continueremo a investire in ricerca e sviluppo per far sì che questo accada”.

In tempi non sospetti, Federico Mattei, Quantum Ambassador per IBM Italia, aveva ricordato l’importanza per il nostro Paese di investire nel settore del computer quantistico, sviluppando competenze e nuovi professionisti. “Non esistono ancora programmatori e ingegneri di computer quantistici, ma serviranno e saranno fondamentali per non dipendere dai Paesi che si sono mossi per primi” diceva. “Occorre, allo stesso tempo, sviluppare l’infrastruttura e sviluppare tecnologia nazionale. Su quest’ultimo tema come IBM abbiamo avviato collaborazioni anche con le principali università italiane. Mentre il governo italiano nell’ambito del PNRR ha costituito nei mesi scorsi il centro HPC, Big Data e Quantum con oltre 300 milioni di euro per lo sviluppo delle competenze e delle infrastrutture in queste tecnologie”.

Il calcolo quantistico è ancora agli inizi del suo sviluppo, ma il suo potenziale è immenso. Con questa macchina, l’Italia vuole cogliere le opportunità offerte in campi determinanti, dalla scienza, all’industria e della società. Intanto, entro la fine del 2024, il computer quantistico di Napoli sarà potenziato con un processore a 40 qubit, con i ricercatori che lavoreranno per integrare il dispositivo con altre piattaforme quantistiche sviluppate in Italia.

Come funziona il computer quantistico

Il computer quantistico è un tipo di computazione che sfrutta i meccanismi della meccanica quantistica. Nel computer classico abbiamo i bit, che possono assumere solo due stadi: 0 e 1, mentre con il computer quantistico abbiamo i Qubit, basati sempre sui due stadi 0 e 1, che restano, ma possono entrare anche in sovrapposizione. In questo modo è possibile far veicolare con i Qubit un quantitativo di informazioni estremamente superiore rispetto ai bit.

Grazie al principio di sovrapposizione e alla proprietà quantistica “Entanglement”, è possibile dar vita a programmi e algoritmi che, per determinati obiettivi come ottimizzazione, simulazione di sistemi naturali e machine learning, potranno essere molto più rapidi nell’esecuzione rispetto a computer classici. Questo non significa che i computer tradizionali andranno poi ‘rottamati’, in quanto rimangono validi alleati dei computer quantistici con cui collaborare. A seconda del tipo di algoritmo richiesto si utilizzerà la tecnologia più indicata.

https://www.key4biz.it/napoli-ecco-il-primo-computer-quantistico-italiano/493442/

Un ricercatore di sicurezza è preoccupato per la nuova funzionalità Recall di Windows 11 dopo averla testata.

La vicenda

Microsoft sta per lanciare una nuova funzionalità di richiamo basata sull’intelligenza artificiale che cattura lo screenshot di tutto ciò che fai sul tuo PC. Recall fa parte dei nuovi PC Copilot Plus che debutteranno il 18 giugno, ma gli esperti che hanno testato la funzionalità avvertono già che Recall potrebbe essere un “disastro” per la sicurezza informatica. Lo scrive il sito specializzato The Verge.

Recall è progettato per utilizzare modelli di intelligenza artificiale locale per catturare tutto ciò che vedi o fai sul tuo computer e quindi darti la possibilità di cercare e recuperare qualsiasi cosa in pochi secondi. C’è anche una sequenza temporale esplorabile che puoi scorrere. Tutto in Recall è progettato per rimanere locale e privato sul dispositivo, quindi nessun dato viene utilizzato per addestrare i modelli AI di Microsoft.

Alcuni dubbi

Ma nonostante le promesse di Microsoft di un’esperienza di richiamo sicura e crittografata, l’esperto di sicurezza informatica Kevin Beaumont ha scoperto che la funzionalità basata sull’intelligenza artificiale presenta alcuni potenziali difetti di sicurezza. Beaumont, che ha lavorato per un breve periodo presso Microsoft nel 2020, ha testato Recall la scorsa settimana e ha scoperto che la funzionalità memorizza i dati in un database in testo semplice. Ciò potrebbe rendere banale per un utente malintenzionato utilizzare malware per estrarre il database e i suoi contenuti.

“Ogni pochi secondi vengono acquisiti degli screenshot. Questi vengono automaticamente sottoposti a OCR da Azure AI, in esecuzione sul tuo dispositivo e scritti in un database SQLite nella cartella dell’utente”, spiega Beaumont in un post dettagliato sul blog. “Questo file di database contiene un record di tutto ciò che hai visualizzato sul tuo PC in testo semplice”.

Furto di informazioni più semplice?

Beaumont ha condiviso un esempio del database di testo semplice su X, rimproverando Microsoft per aver detto ai media che un hacker non può esfiltrare l’attività di Recall da remoto. Il database è archiviato localmente su un PC, ma è accessibile dalla cartella AppData se sei un amministratore su un PC. Due ingegneri Microsoft lo hanno dimostrato di recente al Build e Beaumont afferma che il database è accessibile anche se non sei un amministratore.

Il timore è che Recall renda più semplice il furto di informazioni da parte di malware e aggressori. Esistono già trojan InfoStealer per rubare credenziali e informazioni dai PC e gli hacker attualmente distribuiscono questo tipo di malware per rubare e vendere informazioni. “Recall consente agli autori delle minacce di automatizzare lo scraping di tutto ciò che hai mai guardato in pochi secondi”, afferma Beaumont.

Microsoft sta attualmente pianificando di abilitare Recall per impostazione predefinita sui PC Copilot Plus.

https://www.key4biz.it/recall-di-windows-a-rischio-privacy-e-sicurezza-la-nuova-funzione-che-registra-lo-schermo-con-lai/493071/

L’indice S&P 500 e il Nasdaq hanno raggiunto i rispettivi apici questa notte, quando Nvidia è entrata nel club della capitalizzazione di mercato da 3 mila miliardi di dollari, superando Apple. Ad oggi, la classifica delle prime tre imprese al mondo per capitalizzazione recita, Microsoft al primo posto, con 3,14 trilioni di dollari, seguita da Nvidia e dalla stessa Apple. Lo Standard & Poor 500 ha raggiunto un nuovo massimo di giornata con 5.354 punti, in crescita dell’1,1%, mentre il Nasdaq è salito dell’1,7% toccando il record di 17.187 punti. Il Dow Jones Industrial Average ha guadagnato 96 punti, o lo 0,25%, a 38.807 alla chiusura del mercato.

Chiaramente, la capitalizzazione di mercato di Nvidia si deve soprattutto al boost ottenuto dalle novità in ambito intelligenza artificiale. Il produttore di chip ha annunciato la sua piattaforma AI Blackwell di prossima generazione a marzo, con la domanda per i semiconduttori, anche quelli attuali della serie Hopper, che pare stia superando l’offerta. Allo stesso modo, Apple si sta concentrando sull’innovazione dell’intelligenza artificiale collaborando con OpenAI per integrare il suo chatbot, ChatGPT, nel sistema operativo dell’iPhone. Si prevede che la Mela annuncerà l’accordo durante la conferenza annuale Worldwide Developers Conference, che inizierà lunedì sera, il 10 giugno.

Tassi in discesa

A dare impulso al sentiment in tutto il mercato sono stati i rendimenti obbligazionari più bassi. Sono questi infatti che indirettamente rendono i costi di finanziamento più economici, segnalano la fiducia degli investitori in un movimento al ribasso dei tassi. In particolare, ieri il Canada è diventato il primo paese occidentale ad abbassare il tasso di prestito, mentre un rapporto sul mercato del lavoro statunitense da parte dell’agenzia ADP ha segnalato un taglio del tasso favorevole alla crescita da parte della Federal Reserve. Gli investitori si aspettano che la Fed tagli i tassi per la prima volta a settembre, secondo il trading di contratti future monitorato dal CME FedWatch Tool.

Tornando alla notte, in cima a Wall Street ci sono Intel (+2,55%), Microsoft (+1,90%), Goldman Sachs (+1,38%) e Amazon (+1,09%). Le più forti vendite, invece, si sono abbattute su Cisco Systems, che ha terminato le contrattazioni a -2,99%. Calo per Walt Disney, che segna un -1,77%, Johnson & Johnson, che segna un calo dell’1,24%, e American Express, che scambia con un -1,08%. Tra i protagonisti del Nasdaq 100, CrowdStrike Holdings (+12,01%), ASML Holding (+9,54%), Moderna (+6,57%) e Broadcom (+6,26%). I più forti ribassi, invece, si sono verificati su Dollar Tree, che ha archiviato la seduta a -4,97%. Sotto pressione Cisco Systems, con un forte ribasso del 2,95%.

https://www.key4biz.it/nvidia-lai-ti-fa-bella-superata-la-capitalizzazione-di-mercato-di-apple/493326/

Manca solo qualche giorno e poi la serie di illazioni sulla collaborazione tra Apple e OpenAI troverà conferma. Lunedì sera, alle 19 italiane, parte la WWDC 2024, conferenza annuale degli sviluppatori Apple. Da anni, l’appuntamento prevede un keynote di apertura che è più show che tecnico, al pari delle presentazioni di prodotto del gigante americano. Per l’occasione, Tim Cook e soci annunceranno l’ingresso di ChatGpt sugli iPhone, con l’aggiornamento settembrino di iOS 18.

Non lo diciamo noi ma fonti vicine a Cupertino, come riporta Bloomberg. Secondo quanto riferito, l’accordo consentirà alla startup guidata da Sam Altman di accedere a milioni di utenti Apple, con le funzionalità del chatbot che verranno abbinate alle applicazioni e ai servizi della Mela. Tuttavia, si prevede che Apple renderà l’AI un’opzione da attivare, lasciando alle persone libertà di scelta sull’usare o meno la nuova tecnologia.

Relazione breve ma intensa

Bloomberg spiega che quella tra Apple e OpenAI sarà probabilmente una “relazione a breve e medio termine”, fin quando gli ingegneri a lavoro su iOS non riusciranno a includere modelli autoctoni di linguaggio naturale gestiti direttamente e non forniti da terzi, come nel caso di GPT. Detto ciò, Apple è ancora in trattative con Google per utilizzare il chatbot Gemini AI nei suoi dispositivi, e questo a completamento di quanto si diceva settimane fa, ossia che non è nell’interesse di Cook chiudere le porte anche a solo una delle imprese che sta guidando l’innovazione nel settore.

Una nuova Siri all’orizzonte

A ragione di ciò, Apple potrebbe addirittura anticipare un’eventuale richiesta dell’Unione Europea, proponendo all’accensione degli iPhone una scelta tra più chatbot e modelli di AI, come accade oggi con i motori di ricerca. Poi c’è Siri: il nuovo assistente, basato su modelli linguistici di grandi dimensioni, o LLM , una parte fondamentale della tecnologia di intelligenza artificiale generativa come ChatGpt, consentirà di interagire con la voce per operazioni più complesse, dall’inviare o eliminare e-mail, aprire link specifici su Apple News e riassumere un articolo su iPhone e iPad. A maggio, il New York Times ha scritto che una nuova Siri basata sull’intelligenza artificiale sarebbe stata “più colloquiale e versatile” e in grado di chattare invece che limitarsi a rispondere alle domande.

https://www.key4biz.it/apple-con-openai-lunedi-lannuncio-della-partnership-che-portera-chatgpt-su-iphone/493321/