On Tuesday, The Guardian accused Microsoft of damaging its journalistic reputation by publishing an AI-generated poll beside one of its articles on the Microsoft Start website. The poll, created by an AI model on Microsoft’s news platform, speculated on the cause of a woman’s death, reportedly triggering reader anger and leading to reputational concerns for the news organization.

“This has to be the most pathetic, disgusting poll I’ve ever seen,” wrote one commenter on the story. The comment section has since been disabled.

The poll appeared beside a republished Guardian story about Lilie James, a 21-year-old water polo coach who was found dead with head injuries in Sydney. The AI-generated poll presented readers with three choices to speculate on the cause of James’ death: murder, accident, or suicide. Following negative reactions, the poll was removed, but critical comments remained visible for a time before their removal.

Anna Bateson, the chief executive of the Guardian Media Group, voiced her concerns in a letter to Microsoft President Brad Smith. Bateson criticized Microsoft’s use of generative AI for creating a poll on a sensitive issue without the news publisher’s consent.

“This is clearly an inappropriate use of genAI [generative AI] by Microsoft on a potentially distressing public interest story, originally written and published by Guardian journalists,” she wrote in the letter.

She argued that the poll was not only potentially distressing for the deceased woman’s family but also harmful to the reputation of the journalists who wrote the original article, some of which had been angrily called out by name by commenters on the article. Bateson then emphasized the importance of a “strong copyright framework” for publishers to negotiate how their content is used by third-party platforms.

The Guardian has a licensing agreement with Microsoft that allows the tech company to publish the newspaper’s articles on Microsoft Start, which serves as a news aggregation website and app. Bateson has requested that Microsoft commit to not using experimental AI technology alongside Guardian journalism without approval and to make it clear when AI tools are employed for generating additional content.

Bateson also called on Microsoft to take responsibility for the poll by attaching a note to the original article. As of press time, Microsoft had not yet commented to The Guardian on the matter.

This isn’t the first time Microsoft’s automated AI-generated news content has caused controversy. In September, MSN published an AI-generated article that declared deceased former NBA player Brandon Hunter “useless at 42.” In August, MSN also published a list of can’t-miss tourist destinations in Ottawa that included a food bank.

https://arstechnica.com/?p=1980174

Il presidente degli Stati Uniti Joe Biden ha pubblicato un ordine esecutivo sull’Intelligenza Artificiale. L’obiettivo è fissare alcuni punti fermi, degli standard di sicurezza, per lo sviluppo sicuro dell’AI, tenendo conto dei rischi della nuova tecnologia.

Nuovi standard per gli sviluppatori

“L’ordine esecutivo stabilisce nuovi standard per la sicurezza e la protezione dell’intelligenza artificiale, protegge la privacy degli americani, promuove l’equità e i diritti civili, difende i consumatori e i lavoratori, promuove l’innovazione e la concorrenza, fa avanzare la leadership americana nel mondo e altro ancora”, ha affermato la Casa Bianca in un comunicato.

L’ordine richiede agli “sviluppatori dei più potenti sistemi di intelligenza artificiale” di condividere i risultati dei test di sicurezza e altre informazioni critiche con il governo degli Stati Uniti prima che vengano rilasciati al pubblico.

Test

L’ordine, firmato da Biden alla Casa Bianca, indica inoltre alle agenzie di stabilire standard per tali test e di affrontare i relativi rischi chimici, biologici, radiologici, nucleari e di sicurezza informatica.

In base all’ordine, il National Institute of Standards and Technology fisserà standard rigorosi per test approfonditi per garantire la sicurezza prima del rilascio al pubblico.

Il Dipartimento per la sicurezza interna applicherà tali standard ai settori delle infrastrutture critiche e istituirà l’AI Safety and Security Board.

Dipartimento del Commercio

Nel frattempo, il Dipartimento del Commercio “svilupperà linee guida per l’autenticazione dei contenuti e la filigrana” per etichettare gli articoli generati dall’intelligenza artificiale, per garantire che le comunicazioni governative siano chiare.

L’ordinanza stabilisce inoltre i requisiti per i regolatori della proprietà intellettuale e le forze dell’ordine federali per affrontare l’uso di opere protette da copyright nella formazione sull’intelligenza artificiale, incluso un appello a “valutare i sistemi di intelligenza artificiale per violazioni della legge sulla proprietà intellettuale”.

Contenere i pericoli

L’ordine riflette lo sforzo del governo di modellare il modo in cui l’intelligenza artificiale si evolve in modo da massimizzare le sue possibilità e contenerne i pericoli.

L’intelligenza artificiale è stata una fonte di profondo interesse personale per Biden, con il suo potenziale di influenzare l’economia e la sicurezza nazionale.

Questione urgente per la Casa Binaca

Il capo dello staff della Casa Bianca, Jeff Zients, ha ricordato che Biden ha dato al suo staff una direttiva per agire con urgenza sulla questione, avendo considerato la tecnologia una priorità assoluta.

Secondo Biden, il governo ha tardato ad affrontare i rischi dei social media e ora i giovani statunitensi sono alle prese con problemi di salute mentale correlati. L’intelligenza artificiale ha la capacità positiva di accelerare la ricerca sul cancro, modellare gli impatti dei cambiamenti climatici, aumentare la produzione economica e migliorare i servizi pubblici, tra gli altri vantaggi.

Distorcere la realtà

Ma potrebbe anche distorcere le nozioni fondamentali di verità con immagini false, aggravare le disuguaglianze razziali e sociali e fornire uno strumento a truffatori e criminali.

L’ordine si basa sugli impegni volontari già assunti dalle aziende tecnologiche. Fa parte di una strategia più ampia che, secondo i funzionari dell’amministrazione, include anche la legislazione del Congresso e la diplomazia internazionale.

Informazioni condivise

Utilizzando il Defense Production Act, l’ordine richiederà ai principali sviluppatori di intelligenza artificiale di condividere i risultati dei test di sicurezza e altre informazioni con il governo. Il National Institute of Standards and Technology creerà standard per garantire che gli strumenti di intelligenza artificiale siano sicuri e protetti prima del rilascio pubblico.

Il Dipartimento del Commercio pubblicherà linee guida per etichettare e filigranare i contenuti generati dall’intelligenza artificiale per aiutare a distinguere tra le interazioni autentiche e quelle generate dal software. L’ordinanza tocca questioni di privacy, diritti civili, tutela dei consumatori, ricerca scientifica e diritti dei lavoratori.

https://www.key4biz.it/ai-ordine-esecutivo-di-biden-per-regolare-lintelligenza-artificiale/465487/

I paesi del G7 hanno concordato su un codice di condotta per le aziende e le istituzioni che sviluppano sistemi di intelligenza artificiale (AI), volto a mitigare i rischi derivanti da questa tecnologia come la disinformazione e la violazione della privacy o della proprietà intellettuale.

I leader del Gruppo dei Sette (Canada , Francia, Germania, Italia, Giappone, Regno Unito, Germania, Stati Uniti e Stati Uniti) hanno approvato ieri una serie di linee guida per il settore dell’intelligenza artificiale soprannominate “Processo AI di Hiroshima” con riferimento alla presidenza giapponese del G7 in carica fino a dicembre. Da gennaio per tutto il 2024 sarà l’Italia a ricoprire la presidenza del G7 e l’AI sarà certamente al centro delle nostre attività, come preannunciato dal presidente del Consiglio Giorgia Meloni.

Leggi anche: Butti ‘Al prossimo G7 a guida italiana grande spazio all’IA’

AI, la Ue accoglie l’accordo sul Processo di Hiroshima. Ora il testimone del G7 passa all’Italia

Linee guida in divenire

Si tratta di linee guida in divenire, che certamente saranno arricchite sotto la presidenza italiana del G7. Le raccomandazioni sono aperte al contributo di tutti i paesi, del mondo dell’accademia, de business e della società civile.  

Troppo grande l’impatto dell’AI sulle nostre vite per non dare spazio a tutte le componenti della società in questa delicata fase di circoscrizione del perimetro di legalità della nuova tecnologia.

L’obiettivo del G7 è comunque quello di creare uno strumento standard di monitoraggio e controllo condiviso dell’AI, che sia basato in primo luogo sul rispetto dei diritti umani.

L’uomo resta al centro del sistema e importante sarà la previsione dei rischi e la tracciabilità dei processi decisionali. Come importante sarà la segnalazione delle vulnerabilità, la registrazione degli incidenti, la trasparenza e condivisione delle informazioni.  

Il tutto nel rispetto della privacy e nella necessità di stabilire policy di governance dell’AI che limitino tutti i rischi.

Nelle intenzioni del G7, l’AI dovrebbe essere prioritariamente e indirizzarsi alla soluzione dei grandi problemi del mondo: dall’emergenza climatica alla salute all’istruzione. E se possibile concentrarsi sulla creazione di standard internazionali condivisi.

La tabella di marcia del Processo di Hiroshima

La tabella di marcia del Processo di Hiroshima mira a promuovere lo sviluppo di sistemi di intelligenza artificiale “sicuri e affidabili” a livello internazionale e a “gestire i relativi rischi”, si legge nella dichiarazione congiunta, che invita anche tutti gli attori del settore dell’intelligenza artificiale a impegnarsi per la sua realizzazione. I punti salienti del G7 il “potenziale innovativo e trasformativo” dei sistemi avanzati di intelligenza artificiale e, in particolare, dei modelli generativi come il bot di conversazione ChatGPT, pur riconoscendo la necessità a “proteggere le persone, la società e i principi condivisi”, oltre a “mantenere l’umanità al centro” nonché principi per le aziende e le organizzazioni coinvolte nello sviluppo di sistemi di intelligenza artificiale.

Le misure raccomandate includono la supervisione di osservatori indipendenti su tutte le fasi dello sviluppo dell’intelligenza artificiale e del lancio sul mercato e la garanzia che gli sviluppatori di intelligenza artificiale identifichino potenziali rischi di uso improprio e correggano tali vulnerabilità.

Servirà trasparenza

Servirà trasparenza di questi modelli, gli sviluppatori sono invitati a riferire pubblicamente sulle “capacità e limitazioni” e sugli “ambiti di utilizzo appropriato e inappropriato” dei loro sistemi. Si chiede inoltre l’implementazione di “meccanismi di autenticazione” come la creazione di “filigrane digitali” che consentono agli utenti di identificare testo, immagini o video generati da intelligenze artificiali.

Linee guida riviste ciclicamente

Queste linee guida saranno riviste periodicamente, se necessario, “per adattarsi alla rapida evoluzione della tecnologia” e in consultazione con le parti interessate, secondo la dichiarazione congiunta. Oltre a invitare le imprese e le istituzioni del settore a seguire questo codice di condotta, i paesi del G7 “accelereranno il processo di sviluppo di un quadro politico” per promuovere l’attuazione del processo di Hiroshima, che includerà “una cooperazione basata su progetti”.

L’obiettivo è anche quello di promuovere il rispetto di questa tabella di marcia attraverso la cooperazione e la consultazione con diversi organismi internazionali come il Partenariato globale sull’intelligenza artificiale (GPAI), l’Organizzazione per la cooperazione e lo sviluppo economico (OCSE) e con attori pubblici e privati, nonché con i paesi che sono non fa parte del G7.

Il codice di condotta di Hiroshima in 11 punti

1. Adottare misure adeguate durante lo sviluppo di sistemi avanzati di IA, anche prima e durante la loro diffusione e immissione sul mercato, per identificare, valutare e mitigare i rischi durante il ciclo di vita dell’intelligenza artificiale.
2. Modelli di abuso, dopo la diffusione, compreso l’immissione sul mercato.
3. Segnalare pubblicamente le capacità, i limiti e gli ambiti di applicazione dei sistemi avanzati di IA uso appropriato e inappropriato, per sostenere la garanzia di una trasparenza sufficiente, contribuendo così ad aumentare la responsabilità
4. Lavorare verso la condivisione responsabile delle informazioni e la segnalazione degli incidenti tra organizzazioni che sviluppano sistemi avanzati di intelligenza artificiale, anche con l’industria, governi, società civile e mondo accademico.
5. Sviluppare, attuare e divulgare politiche di governance dell’IA e di gestione del rischio, basato su un approccio basato sul rischio, comprese le politiche sulla privacy e la mitigazione misure, in particolare per le organizzazioni che sviluppano sistemi avanzati di IA.
6. Investire e implementare solidi controlli di sicurezza, tra cui la sicurezza fisica, la sicurezza informatica e le misure di salvaguardia contro le minacce interne durante tutto il ciclo di vita dell’IA.
7. Sviluppare e implementare meccanismi affidabili di autenticazione e provenienza dei contenuti, ove tecnicamente fattibile, come filigranatura o altre tecniche per abilitarlo agli utenti per identificare i contenuti generati dall’intelligenza artificiale.
8. Dare priorità alla ricerca per mitigare i rischi sociali e per la sicurezza e definire le priorità di investimenti in misure di mitigazione efficaci.
9. Dare priorità allo sviluppo di sistemi di intelligenza artificiale avanzati per affrontare le più grandi sfide globali, in particolare, ma non solo, la crisi climatica, la salute globale e l’istruzione
   10.Avanzare lo sviluppo e, ove opportuno, l’adozione di misure internazionali norme tecniche
   11.Attuare misure adeguate di immissione dei dati e protezioni per i dati personali e proprietà

https://www.key4biz.it/processo-ai-di-hiroshima-il-codice-di-condotta-del-g7-sullintelligenza-artificiale-un-lascito-per-la-presidenza-italiana/465460/

Stamane (ieri ndr) la Commissione Europea ha accolto con favore l’accordo raggiunto dai leader del G7 sui principi guida internazionali sull’intelligenza artificiale (IA) e su un codice di condotta volontario per gli sviluppatori di IA nell’ambito del Processo Hiroshima AI.

“Il G7 2023 che si sta chiudendo, ha registrato un impegno sostanziale dei Paesi membri nei confronti dell’Intelligenza Artificiale e della sua variante Generativa – ha commentato Alessio Butti, Sottosegretario alla Presidenza del Consiglio con delega all’Innovazione e alla Trasformazione Digitale – Da gennaio toccherà all’Italia assumere la presidenza del G7 e il Presidente Giorgia Meloni ha già annunciato che vorrà connotare la presidenza italiana con un grande faro di attenzione e di azioni centrate sul futuro dell’Intelligenza Artificiale”.

Il Governo giapponese ha elaborato 11 principi su cui basare il codice di condotta, che è stato indicato come Processo di Hiroshima. L’UE sta premendo affinché́ questi Principi generali siano molto dettagliati e riflettano auspicabilmente la regolamentazione UE sull’Intelligenza Artificiale (AI Act).

“Dal prossimo gennaio toccherà all’Italia sviluppare un ampio confronto in seno al G7, con l’obiettivo di orientare il dibattito globale – ha proseguito il Sottosegretario Alessio Butti – Il punto di partenza sarà proprio la presa in carico del testimone per assicurare continuità alla iniziativa già avviata. Il prossimo G7 potrà essere il G7 dell’IA.  Contemporaneamente procederemo a livello nazionale con la definizione di una strategia del governo sul settore. Abbiamo già costituito la scorsa settimana il comitato di esperti di alto profilo internazionale che ci supporterà nella definizione delle linee strategiche e definiremo le politiche idonee allo sviluppo di un settore industriale fondato sulle competenze di settore, sul rilancio della ricerca e su una rinnovata collaborazione tra imprese ed università italiane. In questo quadro stiamo anche pensando ad un primo appuntamento, una sorta di chiamata generale per gli Stati Generali dell’IA italiana, che definiremo a breve”.

https://www.key4biz.it/butti-al-prossimo-g7-a-guida-italiana-grande-spazio-allia/465393/

La Commissione Ue accoglie positivamente l’accordo del G7 sul codice di condotta sui principi guida internazionali sull’intelligenza artificiale (AI) e un codice di condotta volontario per gli sviluppatori di intelligenza artificiale nell’ambito del processo di Hiroshima sull’intelligenza artificiale (in nome del summit che si è tenuto il 23 maggio in Giappone), approvato dai Paesi del G7. Il tema ci riguarda da vicino, visto che l’Italia assumerà la presidenza del G7 a gennaio 2024 e che l’Intelligenza Artificiale sarà uno dei temi principali del nostro mandato.

La nota della Commissione Ue precisa che questi principi e il codice di condotta volontario integreranno, a livello internazionale, le norme giuridicamente vincolanti che i co-legislatori dell’UE stanno attualmente finalizzando nell’ambito della legge sull’IA dell’UE. La presidente della Commissione europea, Ursula von der Leyen, è stata tra coloro che hanno sottoscritto la dichiarazione dei leader del G7 rilasciata dalla presidenza giapponese del G7 del 2023.

von der Leyen: ‘Enormi benefici dell’AI per cittadini ed economia’

La presidente von der Leyen ha dichiarato: “I potenziali benefici dell’intelligenza artificiale per i cittadini e per l’economia sono enormi. Tuttavia, l’accelerazione della capacità dell’intelligenza artificiale comporta anche nuove sfide. Già pioniere della regolamentazione con la legge sull’intelligenza artificiale, l’UE sta anche contribuendo ai controlli e alla governance dell’intelligenza artificiale a livello globale. Sono lieta di accogliere i principi guida internazionali del G7 e il codice di condotta volontario, che riflettono i valori dell’UE per promuovere un’IA affidabile. Invito gli sviluppatori di intelligenza artificiale a firmare e attuare questo codice di condotta il prima possibile”.

Garantire la sicurezza e l’affidabilità della tecnologia

Gli undici principi guida adottati dai leader dei sette paesi e dell’UE che compongono il G7, forniscono indicazioni per le organizzazioni che sviluppano, implementano e utilizzano sistemi di IA avanzati, come modelli di base e IA generativa, per promuovere la sicurezza e l’affidabilità del mondo. tecnologia. Includono impegni per mitigare i rischi e gli abusi e identificare le vulnerabilità, per incoraggiare la condivisione responsabile delle informazioni, la segnalazione di incidenti e gli investimenti nella sicurezza informatica, nonché un sistema di etichettatura per consentire agli utenti di identificare i contenuti generati dall’intelligenza artificiale.

Sulla base dei risultati di un sondaggio tra le parti interessate, questi principi sono stati sviluppati congiuntamente dall’UE con gli altri membri del G7, nell’ambito del processo di intelligenza artificiale di Hiroshima. I principi guida sono a loro volta serviti come base per compilare un codice di condotta, che fornirà una guida dettagliata e pratica per le organizzazioni che sviluppano l’intelligenza artificiale. Il Codice di condotta volontario promuoverà inoltre la governance responsabile dell’IA a livello globale. Entrambi i documenti saranno rivisti e aggiornati secondo necessità, anche attraverso consultazioni multilaterali inclusive, per garantire che rimangano adatti allo scopo e reattivi a questa tecnologia in rapida evoluzione. I leader del G7 hanno invitato le organizzazioni che sviluppano sistemi avanzati di intelligenza artificiale a impegnarsi nell’applicazione del Codice di condotta internazionale. I primi firmatari saranno annunciati prossimamente.

Background

Il processo di intelligenza artificiale del G7 di Hiroshima è stato istituito al vertice del G7 del 19 maggio 2023 per promuovere guardrail per i sistemi di intelligenza artificiale avanzati a livello globale. L’iniziativa fa parte di una gamma più ampia di discussioni internazionali sui guardrail per l’IA, anche in sede OCSE, nella Global Partnership on Artificial Intelligence (GPAI) e nel contesto dell’accordo UE-USA. Consiglio per il commercio e la tecnologia e i partenariati digitali dell’UE.

Da quando ha annunciato per la prima volta la sua intenzione di lavorare su un codice di condotta in occasione della riunione ministeriale del TTC del 31 maggio 2023, la Commissione europea ha collaborato attivamente con i principali partner internazionali del G7 per sviluppare i principi e il codice di condotta sull’intelligenza artificiale. Questi impegni internazionali sono coerenti con le norme giuridicamente vincolanti attualmente in fase di negoziazione nell’ambito della più ampia legge sull’intelligenza artificiale (legge sull’intelligenza artificiale dell’UE), che si applicherà nell’UE.

La proposta di legge dell’UE sull’IA garantirà la sicurezza e i diritti fondamentali delle persone e delle imprese, rafforzando al tempo stesso l’adozione, gli investimenti e l’innovazione dell’IA in tutta l’UE. La legge sull’IA fornirà norme giuridicamente vincolanti basate sul rischio per i sistemi di IA immessi sul mercato o messi in servizio nel mercato dell’Unione.

Il codice di condotta di Hiroshima in 11 punti

1. Adottare misure adeguate durante lo sviluppo di sistemi avanzati di IA,

anche prima e durante la loro diffusione e immissione sul mercato,

per identificare, valutare e mitigare i rischi durante il ciclo di vita dell’intelligenza artificiale.

2. Modelli di abuso, dopo la diffusione, compreso l’immissione sul mercato.

3. Segnalare pubblicamente le capacità, i limiti e gli ambiti di applicazione dei sistemi avanzati di IA uso appropriato e inappropriato, per sostenere la garanzia di una trasparenza sufficiente, contribuendo così ad aumentare la responsabilità

4. Lavorare verso la condivisione responsabile delle informazioni e la segnalazione degli incidenti tra organizzazioni che sviluppano sistemi avanzati di intelligenza artificiale, anche con l’industria, governi, società civile e mondo accademico.

5. Sviluppare, attuare e divulgare politiche di governance dell’IA e di gestione del rischio, basato su un approccio basato sul rischio, comprese le politiche sulla privacy e la mitigazione misure, in particolare per le organizzazioni che sviluppano sistemi avanzati di IA.

6. Investire e implementare solidi controlli di sicurezza, tra cui la sicurezza fisica, la sicurezza informatica e le misure di salvaguardia contro le minacce interne durante tutto il ciclo di vita dell’IA.

7. Sviluppare e implementare meccanismi affidabili di autenticazione e provenienza dei contenuti, ove tecnicamente fattibile, come filigranatura o altre tecniche per abilitarlo agli utenti per identificare i contenuti generati dall’intelligenza artificiale.

8. Dare priorità alla ricerca per mitigare i rischi sociali e per la sicurezza e definire le priorità di investimenti in misure di mitigazione efficaci.

9. Dare priorità allo sviluppo di sistemi di intelligenza artificiale avanzati per affrontare le più grandi sfide globali, in particolare, ma non solo, la crisi climatica, la salute globale e l’istruzione

10.Avanzare lo sviluppo e, ove opportuno, l’adozione di misure internazionali norme tecniche

11.Attuare misure adeguate di immissione dei dati e protezioni per i dati personali e proprietà intellettuale.

Hiroshima Process International Guiding Principles for Organizations Developing Advanced AI system

https://www.key4biz.it/ai-la-ue-accoglie-laccordo-sul-processo-di-hiroshima-ora-il-testimone-del-g7-passa-allitalia/465253/

President Joe Biden on Monday will sign a sweeping executive order to guide the development of artificial intelligence — requiring industry to develop safety and security standards, introducing new consumer protections and giving federal agencies an extensive to-do list to oversee the rapidly progressing technology.

The order reflects the government’s effort to shape how AI evolves in a way that can maximize its possibilities and contain its perils. AI has been a source of deep personal interest for Biden, with its potential to affect the economy and national security.

White House Chief of Staff Jeff Zients recalled Biden giving his staff a directive to move with urgency on the issue, having considered the technology a top priority.

“We can’t move at a normal government pace,” Zients said the president told him. “We have to move as fast, if not faster than the technology itself.”

In Biden’s view, the government was late to address the risks of social media and now U.S. youth are grappling with related mental health issues. AI has the positive ability to accelerate cancer research, model the impacts of climate change, boost economic output and improve government services among other benefits. But it could also warp basic notions of truth with false images, deepen racial and social inequalities and provide a tool to scammers and criminals.

The order builds on voluntary commitments already made by technology companies. It’s part of a broader strategy that administration officials say also includes congressional legislation and international diplomacy, a sign of the disruptions already caused by the introduction of new AI tools such as ChatGPT that can generate new text, images and sounds.

Using the Defense Production Act, the order will require leading AI developers to share safety test results and other information with the government. The National Institute of Standards and Technology is to create standards to ensure AI tools are safe and secure before public release.

The Commerce Department is to issue guidance to label and watermark AI-generated content to help differentiate between authentic interactions and those generated by software. The order also touches on matters of privacy, civil rights, consumer protections, scientific research and worker rights.

An administration official who previewed the order on a Sunday call with reporters said the to-do lists within the order will be implemented and fulfilled over the range of 90 days to 365 days, with the safety and security items facing the earliest deadlines. The official briefed reporters on condition of anonymity, as required by the White House.

Last Thursday, Biden gathered his aides in the Oval Office to review and finalize the executive order, a 30-minute meeting that stretched to 70 minutes, despite other pressing matters including the mass shooting in Maine, the Israel-Hamas war and the selection of a new House speaker.

Biden was profoundly curious about the technology in the months of meetings that led up to drafting the order. His science advisory council focused on AI at two meetings and his Cabinet discussed it at two meetings. The president also pressed tech executives and civil society advocates about the technology’s capabilities at multiple gatherings.

“He was as impressed and alarmed as anyone,” deputy White House chief of staff Bruce Reed said in an interview. “He saw fake AI images of himself, of his dog. He saw how it can make bad poetry. And he’s seen and heard the incredible and terrifying technology of voice cloning, which can take three seconds of your voice and turn it into an entire fake conversation.”

The possibility of false images and sounds led the president to prioritize the labeling and watermarking of anything produced by AI. Biden also wanted to thwart the risk of older Americans getting a phone call from someone who sounded like a loved one, only to be scammed by an AI tool.

Meetings could go beyond schedule, with Biden telling civil society advocates in a ballroom of San Francisco’s Fairmont Hotel in June: “This is important. Take as long as you need.”

The president also talked with scientists and saw the upside that AI created if harnessed for good. He listened to a Nobel Prize-winning physicist talk about how AI could explain the origins of the universe. Another scientist showed how AI could model extreme weather like 100-year floods, as the past data used to assess these events has lost its accuracy because of climate change.

The issue of AI was seemingly inescapable for Biden. At Camp David one weekend, he relaxed by watching the Tom Cruise film “Mission: Impossible — Dead Reckoning Part One.” The film’s villain is a sentient and rogue AI known as “the Entity” that sinks a submarine and kills its crew in the movie’s opening minutes.

“If he hadn’t already been concerned about what could go wrong with AI before that movie, he saw plenty more to worry about,” said Reed, who watched the film with the president.

With Congress still in the early stages of debating AI safeguards, Biden’s order stakes out a U.S. perspective as countries around the world race to establish their own guidelines. After more than two years of deliberation, the European Union is putting the final touches on a comprehensive set of regulations that targets the riskiest applications for the technology. China, a key AI rival to the U.S., has also set some rules.

U.K. Prime Minister Rishi Sunak also hopes to carve out a prominent role for Britain as an AI safety hub at a summit this week that U.S. Vice President Kamala Harris plans to attend.

The U.S., particularly its West Coast, is home to many of the leading developers of cutting-edge AI technology, including tech giants Google, Meta and Microsoft and AI-focused startups such as OpenAI, maker of ChatGPT. The White House took advantage of that industry weight earlier this year when it secured commitments from those companies to implement safety mechanisms as they build new AI models.

But the White House also faced significant pressure from Democratic allies, including labor and civil rights groups, to make sure its policies reflected their concerns about AI’s real-world harms.

The American Civil Liberties Union is among the groups that met with the White House to try to ensure “we’re holding the tech industry and tech billionaires accountable” so that algorithmic tools “work for all of us and not just a few,” said ReNika Moore, director of the ACLU’s racial justice program.

Suresh Venkatasubramanian, a former Biden administration official who helped craft principles for approaching AI, said one of the biggest challenges within the federal government has been what to do about law enforcement’s use of AI tools, including at U.S. borders.

“These are all places where we know that the use of automation is very problematic, with facial recognition, drone technology,” Venkatasubramanian said. Facial recognition technology has been shown to perform unevenly across racial groups, and has been tied to mistaken arrests.

Related: Cyber Insights 2023 | Artificial Intelligence

Related: Biden Picks New NSA Head, Key to Support of Ukraine, Defense of US Elections

Related: SecurityWeek to Host Cyber AI & Automation Summit

https://www.securityweek.com/biden-wants-to-move-fast-on-ai-safeguards-and-will-sign-an-executive-order-to-address-his-concerns/

Dopo Amazon, che a settembre aveva annunciato un investimento di 4 miliardi di dollari in Anthpropic, anche Google investe 2 miliardi di dollari nella startup di Intelligenza Artificiale concorrente di ChatGPT fondata dagli ex manager di OpenAI.

Google peraltro detiene già il 10% nella società.

L’operazione prevede un versamento anticipato di 500 milioni di dollari in contanti e 1,5 miliardi che arriveranno più avanti.

Anthropic è lo sviluppatore di Claude 2, un chatbot rivale del ChatGPT di OpenAI utilizzato da aziende tra cui Slack, Notion e Quora. L’azienda è stata fondata nel 2021 e, oltre a Google, ha ricevuto finanziamenti da Salesforce e Zoom ed è stata valutata all’inizio di quest’anno 4,1 miliardi di dollari.

Claude 2 più potente di ChatGPT

Claude 2 ha la capacità di riassumere fino a circa 75.000 parole, che potrebbero corrispondere alla lunghezza di un libro. Gli utenti possono inserire grandi quantità di dati e chiedere riassunti sotto forma di promemoria, lettera o storia. ChatGPT, al contrario, può gestire circa 3.000 parole.

Una ricerca condotta da Arthur AI, una piattaforma di monitoraggio dell’apprendimento automatico, ha scoperto che Claude 2 è il chatbot più affidabile in termini di “consapevolezza di sé”, ovvero nel valutare accuratamente ciò che fa e non sa e nel rispondere solo alle domande supportate dai dati di addestramento. . Arthur AI ha testato i chatbot di Meta, Cohere e OpenAI.

Google scommette su Anthropic

Ad aprile, Google ha investito 300 milioni di dollari nella società, assumendone una quota del 10%. Nello stesso mese, Anthropic è stata una delle quattro aziende invitate a un incontro alla Casa Bianca per discutere dello sviluppo responsabile dell’intelligenza artificiale con il vicepresidente Kamala Harris. Gli altri sono Alphabet (Google), Microsoft e OpenAI.

Anthropic ha rapidamente raccolto una somma di 450 milioni di dollari a maggio. All’epoca, secondo i dati di PitchBook, si trattava del più grande round di finanziamento per un’azienda di intelligenza artificiale dall’investimento di Microsoft in OpenAI a gennaio.

Anthropic è stata fondata da Dario Amodei, ex vicepresidente della ricerca di OpenAI, e sua sorella, Daniela Amodei, che era vicepresidente della sicurezza e delle politiche di OpenAI. Anche molti altri ex studenti della ricerca OpenAI facevano parte del team fondatore di Anthropic.

Storia

Amodei ha dichiarato alla CNBC a luglio che Anthropic ha investito almeno due mesi nello sviluppo del suo nuovo chatbot, con un team di 30-35 persone che lavorano direttamente sul modello di intelligenza artificiale e un totale di 150 persone che lo supportano. Ha affermato che il mercato sta crescendo così rapidamente che c’è molto spazio per il successo di più attori.

“È un momento davvero insolito dal punto di vista aziendale perché c’è così tanta domanda per modelli linguistici di grandi dimensioni e una domanda davvero maggiore di quella che l’industria può attualmente fornire”, disse Amodei all’epoca. “Il panorama è molto ampio e c’è davvero molto spazio per molti utenti e tipi di utenti diversi per utilizzare questi sistemi.”

https://www.key4biz.it/ai-google-investe-2-miliardi-di-dollari-in-anthropic/465165/

In 2013, Spike Jonze’s Her imagined a world where humans form deep emotional connections with AI, challenging perceptions of love and loneliness. Ten years later, thanks to ChatGPT’s recently added voice features, people are playing out a small slice of Her in reality, having hours-long discussions with the AI assistant on the go.

In 2016, we put Her on our list of top sci-fi films of all time, and it also made our top films of the 2010s list. In the film, Joaquin Phoenix’s character falls in love with an AI personality called Samantha (voiced by Scarlett Johansson), and he spends much of the film walking through life, talking to her through wireless earbuds reminiscent of Apple AirPods, which launched in 2016. In reality, ChatGPT isn’t as situationally aware as Samantha was in the film, does not have a long-term memory, and OpenAI has done enough conditioning on ChatGPT to keep conversations from getting too intimate or personal. But that hasn’t stopped people from having long talks with the AI assistant to pass the time anyway.

Last week, we related a story in which AI researcher Simon Willison spent a long time talking to ChatGPT verbally. “I had an hourlong conversation while walking my dog the other day,” he told Ars for that report. “At one point, I thought I’d turned it off, and I saw a pelican, and I said to my dog, ‘Oh, wow, a pelican!’ And my AirPod went, ‘A pelican, huh? That’s so exciting for you! What’s it doing?’ I’ve never felt so deeply like I’m living out the first ten minutes of some dystopian sci-fi movie.”

When we asked Willison if he had seen Her, he replied, “I actually watched that movie for the first time the other day because people kept talking about that,” Willison said. “And yeah, the AirPod plus ChatGPT voice mode thing really is straight out of that movie.”

It turns out that Willison’s experience is far from unique. Others have been spending hours talking to ChatGPT using its voice recognition and voice synthesis features, sometimes through car connections. The realistic nature of the voice interaction feels largely effortless, but it’s not flawless. Sometimes, it has trouble in noisy environments, and there can be a pause between statements. But the way the ChatGPT voices simulate vocal ticks and noises feels very human. “I’ve been using the voice function since yesterday and noticed that it makes breathing sounds when it speaks,” said one Reddit user. “It takes a deep breath before starting a sentence. And today, actually a minute ago, it coughed between words while answering my questions.”

ChatGPT is also apparently useful as a brainstorming partner. Speaking things out with other people has long been recognized as a helpful way to re-frame ideas in your mind, and ChatGPT can serve a similar role when other humans aren’t around.

On Sunday, an X user named “stoop kid” posted advice for having a creative development session with ChatGPT on the go. After prompting about helping with world-building and plotlines, he wrote, “turn on speaking mode, put in headphones, and go for a walk.” In a reply, he described going on a one hour walk in which he “fully thought out an idea for a novel” with the help of ChatGPT. “It flowed out so naturally from the questioning, and walking and talking is sooooo easy.”

https://arstechnica.com/?p=1979181

On Thursday, Leica Camera released the first camera that can take pictures with automatically encrypted metadata and provide features such as an editing history. The company believes this system, called Content Credentials, will help photojournalists protect their work and prove authenticity in a world riddled with AI-manipulated content.

Leica’s M11-P can store each captured image with Content Credentials, which is based on the Coalition for Content Provenance and Authenticity’s (C2PA’s) open standard and is being pushed by the Content Authenticity Initiative (CAI). Content Credentials, announced in October, includes encrypted metadata detailing where and when the photo was taken and with what camera and model. It also keeps track of edits and tools used for edits.

When a photographer opts to use the feature, they’ll see a Content Credentials logo in the camera’s display, and images will be signed through the use of an algorithm.

The feature requires the camera to use a specialized chipset for storing digital certificates. Credentials can be verified via Leica’s FOTOS app or on the Content Credentials website.

Leica’s announcement said:

Whenever someone subsequently edits that photo, the changes are recorded to an updated manifest, rebundled with the image, and updated in the Content Credentials database whenever it is reshared on social media. Users who find these images online can click on the CR icon in the [pictures’] corner to pull up all of this historical manifest information as well, providing a clear chain of providence, presumably, all the way back to the original photographer.

The M11-P’s Content Credentials is an opt-in feature and can also be erased. As Ars has previously noted, an image edited with tools that don’t support Content Credentials can also result in a gap in the image’s provenance data.

The effort to track changes in images, especially photos used in journalism, is a pressing concern for regulators and the general public as AI-generated images proliferate. Content Credentials can help instill trust in shared images, but only if it sees notable adoption. Leica’s camera is the first readily available hardware to use the system.

“The Leica M11-P launch will advance the CAI’s goal of empowering photographers everywhere to attach Content Credentials to their images at the point of capture, creating a chain of authenticity from camera to cloud and enabling photographers to maintain a degree of control over their art, story, and context,” the CAI, whose 2,000-member roster includes Leica, Adobe, the Associated Press, Microsoft, and Reuters, said in a blog post on Thursday.

Other M11-P specs include a 60 MP BSI CMOS sensor, Leica’s Maestro-III processor, and 256GB of storage. The camera is listed for $9,195 in black or silver.

https://arstechnica.com/?p=1979140

As the generative artificial intelligence gold rush intensifies, concerns about the data used to train machine learning tools have grown. Artists and writers are fighting for a say in how AI companies use their work, filing lawsuits and publicly agitating against the way these models scrape the Internet and incorporate their art without consent.

Some companies have responded to this pushback with “opt-out” programs that give people a choice to remove their work from future models. OpenAI, for example, debuted an opt-out feature with its latest version of the image-to-text generator Dall-E. This August, when Meta began allowing people to submit requests to delete personal data from third parties used to train Meta’s generative AI models, many artists and journalists interpreted this new process as Meta’s very limited version of an opt-out program. CNBC explicitly referred to the request form as an “opt-out tool.”

This is a misconception. In reality, there is no functional way to opt out of Meta’s generative AI training.

Artists who have tried to use Meta’s data deletion request form have learned this the hard way and have been deeply frustrated with the process. “It was horrible,” illustrator Mignon Zakuga says. Over a dozen artists shared with WIRED an identical form letter they received from Meta in response to their queries. In it, Meta says it is “unable to process the request” until the requester submits evidence that their personal information appears in responses from Meta’s generative AI.

Mihaela Voicu, a Romanian digital artist and photographer who has tried to request data deletion twice using Meta’s form, says the process feels like “a bad joke.” She’s received the “unable to process request” boilerplate language, too. “It’s not actually intended to help people,” she believes.

Bethany Berg, a Colorado-based conceptual artist, has received the “unable to process request” response to numerous attempts to delete her data. “I started to feel like it was just a fake PR stunt to make it look like they were actually trying to do something,” she says.

As artists are quick to point out, Meta’s insistence that people provide evidence that its models have trained on their work or other personal data puts them in a bind. Meta has not disclosed the specifics about which data it has trained its models on, so this set-up requires people who want to remove their information to first figure out which prompts might elicit responses that include details about themselves or their work.

Even if they do submit evidence, it may not matter. When asked about mounting frustration with this process, Meta responded that the data deletion request form is not an opt-out tool, emphasizing that it has no intention of deleting information found within its own platforms. “I think there is some confusion about what that form is and the controls we offer,” Meta spokesperson Thomas Richards told WIRED via email. “We don’t currently offer a feature for people to opt-out of their information from our products and services being used to train our AI models.”

But what about information from across the Internet—from, for example, data sets containing millions of images? “For slightly more context on the request form, depending on where people live, they may be able to exercise their data subject rights and object to certain third-party information being used to train our AI models,” Richards says. “Submitting a request doesn’t mean that your third-party information will be automatically removed from our AI training models. We’re reviewing requests in accordance with local laws, as different jurisdictions have different requirements. I don’t have more details though on the process.” Thomas cited the European Union’s General Data Protection Regulation rule as an example of a law one might exercise data subject rights under.

In other words: The data deletion request form gives some people the ability to request—not demand, not insist, but request—that some of their data from third-party sources be removed from AI training models. So don’t call it an opt-out tool.

WIRED has been unable to locate anyone who has successfully had their data deleted using this request form. (It’s far easier to find people who have unsuccessfully petitioned for their data to be left out of future training models.) Meta did not provide numbers on how many requests it has fulfilled. Thomas did note that Meta does not have plans for an opt-out program in the future.

It’s unclear whether this form will end up helping anyone gain control over the way AI companies use their data. It does, however, provide a new example of how inadequate this type of tool is.

This story originally appeared on wired.com.

https://arstechnica.com/?p=1979173