Responsabilità e rischio nei sistemi di IA: il ruolo del contratto tra AI Act e NIS2
Nel percorso di analisi dedicato alla governance giuridica dell’Intelligenza Artificiale e alla progressiva costruzione del quadro regolatorio europeo, si è evidenziato come il diritto sia chiamato a confrontarsi con una crescente complessità tecnologica e con nuove forme di distribuzione del rischio. In questo contesto, emerge con particolare evidenza un nodo ancora solo parzialmente esplorato dalla dottrina e dalla regolazione.
Questo approfondimento, che conclude la serie di contributi, si concentra proprio su tale asimmetria: da un lato, l’AI Act, la direttiva NIS2 e la nuova disciplina sulla responsabilità da prodotto rafforzano in modo significativo gli strumenti di prevenzione, sicurezza e gestione del rischio; dall’altro, resta meno definita la concreta allocazione delle responsabilità quando i sistemi di Intelligenza Artificiale producono errori, danni o risultati inattesi.
Il risultato è un impianto normativo fortemente orientato alla prevenzione, ma ancora parzialmente incompleto sul piano della responsabilità ex post. È in questo spazio che si inserisce l’analisi che segue, dedicata al ruolo del contratto come strumento di governo e distribuzione del rischio nei sistemi di IA.
Sistemi di IA e non prevedibilità degli output come problema giuridico di partenza
Dall’analisi sin qui svolta emerge, dunque, la rilevanza della non prevedibilità degli output come elemento determinante per un’analisi giuridica dell’utilizzo dei modelli di IA.
Si è già notato come tale caratteristica costituisca un tratto strutturale di svariati modelli di IA contemporanei, in particolare di quelli basati su tecniche di apprendimento automatico e, più specificamente, sui modelli di deep learning.
Questa dimensione probabilistica implica che, pur in presenza di input identici o molto simili, il sistema possa produrre risultati differenti o non completamente prevedibili. L’output non è quindi rigidamente predeterminato dal programmatore, ma emerge dal funzionamento del modello addestrato su grandi quantità di dati. Ne deriva una parziale perdita di controllo ex ante sul comportamento del sistema, che rende più complessa l’attribuzione delle responsabilità giuridiche in caso di errore, malfunzionamento o danno.
A tale problematica si aggiunge un ulteriore elemento di complessità rappresentato dalla limitata trasparenza di molti modelli di IA avanzati.
In particolare, nei sistemi basati su modelli di apprendimento profondo e su grandi modelli linguistici (Large Language Models)[1], il funzionamento interno del sistema risulta spesso difficilmente comprensibile anche per gli stessi sviluppatori.
La mancanza di trasparenza costituisce una delle principali criticità da affrontare nella diffusione di tali tecnologie: da un lato rende più difficile per gli utenti comprendere i meccanismi decisionali dei sistemi di IA, alimentando talvolta diffidenza e resistenza alla loro adozione; dall’altro lato può ostacolare l’identificazione e la correzione di eventuali bias presenti nei modelli, proprio a causa della difficoltà di analizzare in modo diretto i processi decisionali sottostanti[2].
La trasparenza assume inoltre rilievo anche sotto il profilo dell’adeguamento normativo e della supervisione. Quando i processi decisionali dei sistemi risultano opachi, diventa più complesso verificare se essi rispettino effettivamente gli standard previsti da leggi, regolamenti e linee guida. Ciò può rendere più difficile per autorità di controllo, organizzazioni e utilizzatori accertare la conformità dei sistemi di IA ai requisiti imposti dal diritto europeo.
In questo contesto si inserisce il noto problema della “black box”, divenuta emblematica delle sfide poste dai sistemi basati su reti neurali profonde che producono decisioni attraverso processi computazionali la cui logica interna risulta in larga misura opaca. Tale opacità non rappresenta semplicemente un limite tecnico contingente, ma costituisce spesso una caratteristica intrinseca di determinate architetture algoritmiche. Come evidenziato nel quadro metodologico elaborato dal National Institute of Standards and Technology nel proprio AI Risk Management Framework (NIST)[3], esiste infatti una relazione strutturale tra capacità predittiva dei modelli e loro interpretabilità: sistemi caratterizzati da elevata complessità e performance tendono a risultare meno facilmente spiegabili.
Si delinea così quello che è definito un vero e proprio “paradosso della trasparenza”: i sistemi di Intelligenza Artificiale più avanzati e performanti, proprio perché fondati su architetture algoritmiche altamente complesse, risultano spesso anche i meno interpretabili sotto il profilo del loro funzionamento interno[4]. Questa tensione tra efficacia tecnologica ed esigenza di comprensibilità rappresenta uno dei nodi centrali del dibattito giuridico e regolatorio sull’IA.
Tale lettura non è tuttavia priva di obiezioni nella letteratura tecnica più recente. Una parte autorevole della scienza dei dati ha contestato la natura ineluttabile del trade-off fra accuratezza e interpretabilità, sostenendo che, per i contesti decisionali ad alto impatto, sia preferibile progettare modelli intrinsecamente interpretabili piuttosto che sviluppare metodi post hoc di spiegazione di modelli opachi (cfr. C. Rudin, Stop Explaining Black Box Machine Learning Models for High Stakes Decisions and Use Interpretable Models Instead, in Nature Machine Intelligence, vol. 1, 2019, 206 ss.).
La distinzione assume rilievo anche sul piano regolatorio, poiché incide direttamente sulla qualità dell’adempimento degli obblighi di trasparenza imposti dall’AI Act: una documentazione tecnica chiara e una governance basata su modelli interpretabili in origine offrono garanzie sostanziali più robuste rispetto a tecniche di Explainable AI applicate a sistemi black box già addestrati.
Queste caratteristiche pongono un problema giuridico di fondo: il modello tradizionale di imputazione della responsabilità, costruito attorno all’idea di controllo e prevedibilità di un comportamento, pur conciliato con gli obblighi di prevenzione introdotti dalla legislazione europea e nazionale, risulta in ogni caso parzialmente inadeguato e insufficiente quando applicato ai sistemi di IA.
Se il comportamento del sistema non è completamente governabile e prevedibile ex ante e se i processi decisionali risultano in parte opachi, diventa più complesso stabilire quando un determinato risultato sia imputabile a un difetto del sistema, a un errore nell’addestramento, a un uso improprio da parte dell’utente o a fattori esterni non controllabili.
In questo senso, il limite della norma non deriva soltanto da una eventuale lacuna del Legislatore, ma trova la propria ragione nella natura stessa della tecnologia regolata.
L’IA introduce infatti una dimensione di incertezza strutturale che difficilmente può essere eliminata attraverso un incremento degli obblighi normativi o mediante una regolazione più dettagliata. Anche un sistema regolatorio particolarmente articolato non sarebbe in grado di prevedere tutte le possibili configurazioni di rischio derivanti dall’interazione tra modelli di IA, utenti e contesti applicativi.
Di conseguenza, il problema giuridico non può essere affrontato esclusivamente attraverso l’imposizione di nuovi obblighi legislativi. Piuttosto, appare necessario affiancare alla regolazione pubblica strumenti giuridici più flessibili, capaci di adattarsi alle specificità dei singoli rapporti tra i soggetti coinvolti nello sviluppo, nella distribuzione e nell’utilizzo dei sistemi di Intelligenza Artificiale, alla luce delle caratteristiche proprie del singolo rapporto.
In questa prospettiva, il contratto assume un ruolo centrale, quale strumento idoneo a disciplinare in modo puntuale e preciso la ripartizione dei rischi e delle responsabilità tra le parti, in relazione al singolo caso.
La contrattualizzazione della responsabilità come risposta funzionale
Attraverso specifiche clausole contrattuali, le parti possono definire ex ante i limiti di utilizzo del sistema oggetto di negoziazione, le garanzie offerte dal fornitore, le responsabilità dell’utilizzatore e i meccanismi di gestione degli eventuali incidenti o malfunzionamenti.
In questo modo, il diritto non cerca tanto di eliminare l’incertezza intrinseca della tecnologia, quanto piuttosto di governarla e distribuirne i rischi in modo consapevole.
Un’applicazione di tale logica si rinviene nel segmento del legal-tech, ambito in cui si è progressivamente affermata una pluralità di piattaforme di IA dedicate al supporto della ricerca giuridica, dell’analisi documentale e della redazione di atti, fra le quali, a livello internazionale, Harvey AI, CoCounsel (Casetext, oggi Thomson Reuters) e Lexis+ AI di LexisNexis. A titolo esemplificativo si può considerare, nel contesto italiano, Lexroom AI[5], piattaforma di Intelligenza Artificiale progettata per supportare avvocati e team legali nella ricerca giuridica, nell’analisi documentale e nella redazione di atti.
Secondo le informazioni pubbliche e le condizioni contrattuali della piattaforma (Lexroom Terms and Conditions)[6], i risultati generati dall’IA sono accompagnati da fonti normative e giurisprudenziali verificabili, consentendo agli utenti di controllare la correttezza delle informazioni prodotte. Tale approccio riduce il rischio di affidamento cieco sull’IA e assegna all’utente professionale la responsabilità finale della revisione e dell’utilizzo dell’output.
Inoltre, il modello contrattuale di Lexroom prevede che il servizio sia destinato esclusivamente a professionisti qualificati, come avvocati o dipartimenti legali aziendali, che dispongano delle competenze necessarie per interpretare e verificare le informazioni generate. Gli output sono concepiti come strumenti di supporto o bozze preliminari, che richiedono una revisione da parte dell’utente prima dell’utilizzo. Tali accorgimenti non eliminano l’incertezza intrinseca del sistema, ma contribuiscono a renderla gestibile attraverso una combinazione di misure tecnologiche, organizzative e contrattuali.
Dal punto di vista giuridico, l’esperienza di Lexroom evidenzia come la responsabilità per l’uso dei sistemi di IA venga ripartita tra fornitore e utente in modo coerente con le rispettive sfere di controllo e con lo scopo di utilizzo: il fornitore si impegna a garantire il corretto funzionamento della piattaforma e la qualità delle fonti integrate nel sistema, mentre l’utente mantiene la responsabilità della verifica finale dei contenuti e della loro applicazione nel contesto professionale.
In questa prospettiva, il contratto assume una funzione di integrazione della disciplina normativa, consentendo di adattare la gestione del rischio alle specificità del singolo rapporto contrattuale.
Questa esigenza emerge con particolare evidenza anche nella gestione dei rapporti lungo l’intera supply chain dei sistemi di Intelligenza Artificiale.
In tale contesto, la negoziazione contrattuale assume un ruolo centrale attraverso clausole relative a dichiarazioni e garanzie, manleve, obblighi di collaborazione e assistenza, nonché meccanismi di gestione degli incidenti e di condivisione delle informazioni, nel rispetto dei limiti normativi[7].
Accanto a tali profili, particolare rilievo assume anche l’individuazione del soggetto che debba assumere il ruolo di “fornitore” ai sensi dell’AI Act, con i relativi obblighi lui attribuiti. In contesti caratterizzati da una pluralità di attori, come nel caso di sistemi sviluppati da una software house su incarico di un’impresa committente, la determinazione della qualifica di fornitore può richiedere una valutazione più articolata, che tenga conto delle concrete modalità di sviluppo, distribuzione e utilizzo del sistema[8].
Proprio per questo motivo, il contratto assume una funzione particolarmente rilevante nel chiarire e specificare la ripartizione delle responsabilità tra i diversi soggetti coinvolti.
Un ulteriore elemento che conferma il ruolo integrativo del contratto emerge dall’art. 25, par. 1, lett. a), dell’AI Act, secondo cui il deployer che apponga il proprio nome o marchio a un sistema di AI assume la qualifica di fornitore, “fatti salvi accordi contrattuali che prevedano una diversa ripartizione degli obblighi”: tale previsione riconosce espressamente lo spazio della negoziazione contrattuale come strumento idoneo a modulare la distribuzione delle responsabilità tra i soggetti coinvolti, nel rispetto del quadro normativo europeo.
In questa prospettiva, la contrattualizzazione non rappresenta un elemento di tensione rispetto al quadro normativo europeo, ma piuttosto uno strumento ausiliario e complementare alla disciplina previste dall’AI Act, NIS2 e, in generale, alle politiche europee di gestione del rischio tecnologico, che consente di tradurre nella pratica operativa i principi di gestione del rischio, trasparenza e responsabilità promossi dalle normative.
La dimensione negoziale diventa così il luogo in cui le indicazioni generali della normativa vengono adattate alle specificità dei singoli rapporti economici e tecnologici, contribuendo a rendere effettiva e concretamente applicabile la governance dei sistemi di Intelligenza Artificiale.
Clausole contrattuali potenzialmente orientate alla gestione dell’imprevedibilità
Dall’analisi precedente si è visto come, generalmente, nei contratti relativi a servizi basati su Intelligenza Artificiale si riscontrino disposizioni che limitano la responsabilità del fornitore in relazione a risultati inesatti o incompleti generati dal sistema, nonché clausole che escludono garanzie implicite circa l’assoluta correttezza degli output. Tali pattuizioni, purché non si traducano in un grave squilibrio tra i contraenti, non risultano in contrasto con l’impianto dell’AI Act, il quale non pretende di garantire l’infallibilità dei sistemi, ma piuttosto impone obblighi di gestione del rischio, trasparenza e accountability.
In questo senso, il contratto deve consentire di tradurre tali obblighi in una disciplina operativa dei rapporti tra le parti, prevenendo situazioni di incertezza e potenziali contenziosi derivanti dall’utilizzo improprio o non conforme dei sistemi di IA.
Un ulteriore profilo rilevante riguarda la verificabilità delle informazioni e delle fonti utilizzate dal sistema. Alcune piattaforme di Intelligenza Artificiale progettate per ambiti professionali specifici adottano soluzioni che consentono agli utenti di controllare direttamente le fonti su cui si basano gli output generati.
Su questa linea si collocano, secondo quanto dichiarato dalle stesse imprese fornitrici, anche le piattaforme già richiamate nel legal-tech – fra cui, in Italia, Lexroom AI – che presentano l’affidabilità e la trasparenza delle risposte prodotte dal sistema come elementi qualificanti del proprio posizionamento di mercato.
In particolare, l’output generato dal sistema è accompagnato da riferimenti normativi e giurisprudenziali verificabili, che l’utente può consultare per accertare la correttezza delle informazioni. Il sistema non fornisce quindi soltanto una risposta, ma rende accessibili anche le basi giuridiche su cui tale risposta è costruita.
La promessa di risultati “verificati, citabili e trasparenti”, evidenziata nelle informazioni pubbliche della piattaforma, non può e non deve tuttavia essere interpretata come una garanzia assoluta di correttezza dell’output.
Piuttosto, essa rappresenta il risultato di una serie di strategie tecniche e organizzative finalizzate a ridurre il rischio di errore. Tra queste rientrano l’utilizzo di dataset giuridici specializzati, l’integrazione con banche dati normative e giurisprudenziali e la possibilità per l’utente di verificare direttamente le fonti citate dal sistema. Tali soluzioni consentono di mitigare, senza pretendere di eliminarla completamente, l’incertezza intrinseca dei modelli di Intelligenza Artificiale generativa, prevedendo contrattualmente una verifica “umana” dell’output da parte dell’utilizzatore.
Ne deriva che anche nel caso di sistemi verticali e altamente specializzati, come quelli sviluppati nel settore legal tech, permane una dimensione di rischio legata alla natura probabilistica del funzionamento dei modelli che la regolazione normativa, da sola, difficilmente può controllare, rendendo necessario il ricorso a strumenti negoziali di gestione del rischio.
Una simile impostazione, tra l’altro, traduce sul piano contrattuale e operativo i principi di trasparenza e tracciabilità promossi dall’AI Act e contribuisce, in linea con la logica preventiva della direttiva NIS2, a rafforzare la gestione del rischio nell’impiego dei sistemi digitali.
Tale approccio, ben specificato nelle condizioni contrattuali, valorizza l’utilizzo del sistema di IA come strumento di supporto decisionale e non di sostituzione, mantenendo centrale il ruolo del professionista nella valutazione finale delle informazioni prodotte.
Di conseguenza, ciò diviene rilevante anche per la gestione dei rapporti lungo la supply chain. In questo contesto, il contratto può svolgere, infatti, una funzione essenziale nel disciplinare i rapporti tra i diversi attori della filiera, prevedendo, ad esempio, dichiarazioni e garanzie relative alla qualità dei dati utilizzati per l’addestramento, obblighi di collaborazione e assistenza tecnica, nonché meccanismi di manleva o di ripartizione delle responsabilità in caso di malfunzionamenti o incidenti.
Accanto a tali disposizioni, i contratti possono prevedere dichiarazioni e garanzie rese dall’utilizzatore, attraverso le quali quest’ultimo attesti di possedere le competenze tecniche e organizzative necessarie per utilizzare il sistema nel rispetto delle istruzioni fornite. Tali dichiarazioni possono riguardare, ad esempio, il livello di alfabetizzazione digitale dell’utente, la disponibilità di adeguati sistemi di controllo interno o, appunto, la capacità di verificare gli output generati dall’Intelligenza Artificiale prima del loro utilizzo. L’obiettivo di tali clausole non è tanto quello di trasferire integralmente il rischio sull’utilizzatore, quanto piuttosto quello di garantire che il sistema venga impiegato in condizioni coerenti con le finalità e i limiti per cui è stato progettato.
Un ulteriore ambito di rilievo riguarda le clausole relative alla manutenzione, agli aggiornamenti e alla sicurezza dei sistemi. In particolare, i contratti possono prevedere obblighi specifici in capo al fornitore relativi alla manutenzione della piattaforma, alla correzione di eventuali vulnerabilità e all’aggiornamento periodico dei modelli e delle basi dati utilizzate dal sistema.
Tali disposizioni risultano coerenti non solo con la logica preventiva dell’AI Act, ma anche con le prescrizioni della Direttiva NIS2 in materia di gestione del rischio informatico e di sicurezza delle infrastrutture digitali. In questo ambito, il contratto può disciplinare aspetti quali gli standard di sicurezza adottati (es. crittografia AES-256, certificazioni ISO 27001, ISO 22301), le procedure di backup e disaster recovery, nonché i tempi di notifica in caso di incidenti o violazioni dei dati[9].
Particolare attenzione può essere dedicata anche alla disciplina della proprietà intellettuale, dell’utilizzo dei dati e degli eventuali indennizzi derivanti da violazioni contrattuali. La definizione chiara ed esaustiva di tali profili dei diritti tutelati contribuisce indubbiamente a ridurre l’incertezza giuridica connessa all’utilizzo di sistemi di IA e a prevenire possibili controversie tra le parti, rafforzando al contempo i principi di responsabilizzazione e prevenzione che caratterizzano la regolazione europea del settore.
Accanto a questi strumenti contrattuali, un ulteriore meccanismo di gestione del rischio può essere rappresentato dall’inserimento di una polizza assicurativa accessoria al contratto, destinata a coprire i danni eventualmente derivanti da malfunzionamenti del sistema, da errori negli output generati dall’IA o da violazioni involontarie di obblighi normativi.
La polizza può prevedere specifici massimali di indennizzo, eventuali franchigie o esclusioni e condizioni per l’attivazione della copertura, contribuendo a distribuire in modo più equilibrato il rischio tra i diversi soggetti coinvolti nel rapporto contrattuale.
Negli ultimi anni, numerose imprese stanno infatti valutando, insieme ai propri broker assicurativi, se i rischi derivanti dall’utilizzo dei sistemi di Intelligenza Artificiale possano essere ricompresi nelle coperture assicurative già esistenti – quali le polizze di responsabilità civile professionale o le assicurazioni cyber – oppure se sia necessario sviluppare nuovi strumenti assicurativi specificamente dedicati a tali tecnologie.
La valutazione del rischio rappresenta, del resto, un elemento centrale nel contratto di assicurazione: affinché un rischio possa essere assicurato, è necessario che esso sia almeno in parte prevedibile e valutabile in termini di frequenza e gravità. Nel caso dell’Intelligenza Artificiale, tuttavia, la natura evolutiva dei sistemi e la rapida trasformazione delle tecnologie potrebbero rendere la valutazione del rischio particolarmente complessa, imponendo un continuo adattamento delle soluzioni assicurative disponibili[10].
Le prime soluzioni attualmente presenti sul mercato tendono quindi ad adattare le coperture assicurative esistenti alle nuove sfide, ad esempio attraverso l’introduzione di specifiche esclusioni, franchigie dedicate o limiti di copertura mirati. In prospettiva, è possibile che il progressivo sviluppo di queste tecnologie e una maggiore conoscenza dei rischi associati al loro utilizzo consentano di elaborare strumenti assicurativi sempre più adeguati alle esigenze degli operatori.
Per rendere più concreto il quadro sinora delineato, è utile riportare a titolo esemplificativo un’ipotesi di clausola contrattuale che mostra come gli obblighi di conformità e di sicurezza previsti dall’AI Act e dalla direttiva NIS2 possano essere tradotti in disposizioni operative.
Il contratto potrebbe ad esempio contenere la dicitura: “Le Parti riconoscono che il Sistema di Intelligenza Artificiale oggetto del presente contratto opera sulla base di modelli di apprendimento automatico caratterizzati da componenti probabilistiche e, pertanto, può generare output non integralmente prevedibili né riproducibili.
Tale caratteristica non costituisce, di per sé, vizio o difetto del servizio, purché il Fornitore mantenga un sistema di controllo, aggiornamento e logging conforme agli standard tecnici applicabili, al Regolamento (UE) 2024/1689 (AI Act) e, in particolare, agli articoli 9, 17 e 19 dello stesso.
L’Utente si impegna a utilizzare gli output generati esclusivamente come supporto decisionale, garantendo che ogni decisione finale sia oggetto di validazione da parte di un soggetto umano dotato delle competenze necessarie per interpretare e verificare i risultati prodotti.
Il Fornitore, da parte sua, si impegna a rendere disponibili le informazioni tecniche essenziali sul funzionamento del sistema e sui rischi d’impiego, in modo da consentire tale supervisione.
Il Fornitore si impegna altresì a rispettare gli obblighi di sicurezza della supply chain previsti dalla Direttiva (UE) 2022/2555 (NIS2) ed eventuali normative di ricevimento, assicurando che i propri subfornitori adottino misure di cybersicurezza equivalenti e siano soggetti a verifiche periodiche.
L’Utente si obbliga a utilizzare il Sistema in conformità alle istruzioni d’uso, garantendo supervisione umana qualificata e qualità dei dati di input, nonché a sospendere immediatamente l’utilizzo in caso di rischio per la salute, la sicurezza o i diritti fondamentali.
In caso di incidente di sicurezza o malfunzionamento, il Fornitore dovrà notificare tempestivamente l’Utente e le autorità competenti (CSIRT/ACN), collaborando alla gestione dell’incidente.
Le Parti concordano che:
– i danni derivanti da difetti di progettazione, addestramento o conformità normativa del Sistema saranno imputabili al Fornitore;
– i danni derivanti da uso improprio, mancata supervisione o alterazioni sostanziali del Sistema saranno imputabili all’Utente, che assumerà la qualifica di Fornitore ai sensi dell’art. 25 AI Act.
Resta inteso che eventuali violazioni degli obblighi di sicurezza della supply chain (NIS2) da parte di subfornitori saranno imputabili al Fornitore, salvo che l’Utente abbia selezionato direttamente tali soggetti.
Le Parti cooperano nella tracciabilità e nella documentazione degli eventi, ai fini di eventuali indennizzi o coperture assicurative.
Le Parti convengono che il rischio residuo legato a eventi imprevedibili e non imputabili a violazione contrattuale sia coperto da apposita polizza assicurativa, il cui massimale e condizioni sono indicati nell’Allegato tecnico al presente contratto”.
Nel complesso, l’insieme delle clausole contrattuali dimostra come il contratto possa svolgere una funzione essenziale di traduzione operativa dei principi stabiliti dalla normativa europea.
I limiti della contrattualizzazione: clausole vessatorie, squilibrio negoziale e necessità di standard minimi
L’analisi delle clausole virtuose svolta nel paragrafo precedente non può prescindere da una constatazione già emersa nel Capitolo II: la prassi contrattuale dei principali fornitori di servizi di IA si discosta sensibilmente dal modello di equilibrio negoziale che la regolazione europea presuppone. I contratti dei big tech, predisposti unilateralmente e proposti in via prevalentemente standardizzata, concentrano sull’utente finale una quota molto significativa del rischio decisionale, applicativo e risarcitorio.
Vi concorre una combinazione ricorrente di esclusioni di garanzia, limitazioni quantitative della responsabilità, manleve a senso unico, clausole di modifica unilaterale e facoltà di sospensione del servizio in capo al fornitore.
La «contrattualizzazione» rischia, in tale contesto, di tradursi non in una distribuzione condivisa della responsabilità, ma in una traslazione integrale verso il contraente debole.
Il quadro così delineato solleva interrogativi rilevanti sotto il profilo della disciplina delle clausole vessatorie. Nei rapporti business-to-consumer si applica la Direttiva 93/13/CEE[11], recepita in Italia agli artt. 33 ss. del Codice del consumo (D.Lgs. 6 settembre 2005, n. 206) [12], che presume vessatorie le clausole le quali, malgrado la buona fede, determinino un significativo squilibrio dei diritti e degli obblighi derivanti dal contratto.
Più nel dettaglio, l’art. 33, comma 2, qualifica come presuntivamente vessatorie, fra le altre, le pattuizioni che escludono o limitano la responsabilità del professionista in caso di morte o danno alla persona derivante da un suo fatto o da una sua omissione (lett. a), che limitano le azioni in caso di inadempimento totale o parziale (lett. b), che riservano al solo professionista la facoltà di recedere o di modificare unilateralmente le condizioni contrattuali (lett. e ed m) e che limitano la responsabilità per inadempimento delle obbligazioni accessorie. Tali clausole, ai sensi dell’art. 36 Cod. cons., sono nulle quando non abbiano formato oggetto di trattativa individuale; la nullità opera anche di ufficio nell’interesse esclusivo del consumatore.
Diverse pattuizioni rinvenibili nei Termini di OpenAI, Microsoft e Google, esaminate nel Capitolo II, presentano profili di tensione con tale disciplina. La formula «as is and as available», unita a tetti risarcitori molto contenuti (frequentemente parametrati al corrispettivo versato negli ultimi dodici mesi) e all’esclusione integrale dei danni indiretti, consequenziali, reputazionali e di lucro cessante, si colloca al limite estremo dello spazio negoziale consentito al professionista. Analoghe perplessità destano le clausole di modifica unilaterale dei termini, le facoltà di sospensione del servizio ad nutum e le manleve generali a carico dell’utente, che in concreto possono integrare ipotesi di vessatorietà presunta.
La piena valutazione della loro validità andrà condotta caso per caso, alla luce dell’effettiva trattativa individuale (di norma assente nei piani consumer) e della giurisprudenza europea di legittimità in materia di squilibrio significativo.
A rafforzare la cornice di tutela intervengono le Direttive (UE) 2019/770 e 2019/771[13], in materia rispettivamente di contratti di fornitura di contenuti e servizi digitali e di vendita di beni con elementi digitali. Le due fonti, recepite nel Codice del consumo agli artt. 135-octies ss. e 128 ss., introducono garanzie di conformità soggettiva e oggettiva, obblighi di aggiornamento e specifici rimedi a tutela del consumatore digitale. La disciplina si applica anche ai servizi di IA generativa erogati in modalità SaaS, e con essa le clausole standard analizzate non sempre risultano pienamente compatibili.
Nei rapporti business-to-business l’apparato di tutela è meno strutturato ma non assente. Vengono in rilievo, in particolare, il divieto di abuso di dipendenza economica di cui all’art. 9 della legge 18 giugno 1998, n. 192, applicabile per estensione giurisprudenziale ai rapporti di fornitura digitale segnati da forte asimmetria contrattuale, e il Regolamento (UE) 2022/1925 (Digital Markets Act)[14], che nei confronti dei gatekeeper impone obblighi di equità nelle condizioni d’uso.
A livello europeo è inoltre in corso una riflessione sull’opportunità di introdurre una disciplina armonizzata delle clausole abusive nei contratti B2B nel mercato dei servizi digitali, sull’esempio di quanto già previsto dal Regolamento (UE) 2019/1150 in materia di servizi di intermediazione online.
In tale prospettiva, la funzione integrativa del contratto rispetto al quadro AI Act-NIS2 non può essere accolta acriticamente. Nei rapporti caratterizzati da forte squilibrio l’autonomia negoziale rischia di ridursi a mera adesione a condizioni predisposte, con effetti potenzialmente regressivi rispetto agli obiettivi di responsabilizzazione e tutela perseguiti dal Legislatore europeo.
La «contrattualizzazione virtuosa» descritta nei paragrafi precedenti presuppone, infatti, una capacità negoziale effettiva tra le parti, di norma riscontrabile soltanto nei contratti enterprise o nei rapporti negoziati individualmente, ben difficilmente nei piani consumer o nelle micro e piccole imprese.
Si profila dunque, sul piano sistematico, l’esigenza di affiancare alla libera negoziazione strumenti di standardizzazione e di riequilibrio idonei a tradurre i principi di gestione del rischio in clausole minime non derogabili. In tale direzione si possono ipotizzare quattro soluzioni concorrenti.
La prima è il ricorso ai codici di condotta volontari previsti dall’art. 95 dell’AI Act, che possono includere modelli di clausole per la traslazione equilibrata del rischio.
La seconda è l’elaborazione, da parte di autorità nazionali ed europee, di clausole contrattuali tipo, sull’esempio delle Standard Contractual Clauses adottate dalla Commissione europea ai sensi dell’art. 46 del Regolamento (UE) 2016/679 per i trasferimenti internazionali di dati, e di quelle predisposte dall’Unione europea per gli appalti pubblici di soluzioni di IA (EU Model Contractual AI Clauses, 2023).
La terza consiste nell’adozione di linee guida AgID e di modelli operativi per la Pubblica Amministrazione, idonei a fissare uno standard contrattuale di riferimento nei rapporti con i fornitori tecnologici. La quarta, infine, prevede un intervento legislativo settoriale, di matrice nazionale o europea, volto a tipizzare alcune clausole abusive nei contratti di fornitura di servizi di IA, in coerenza con la ratio di protezione del contraente debole già accolta dal Codice del consumo.
In un assetto così rinnovato il contratto manterrebbe la propria funzione di adattamento operativo ai singoli contesti, ma all’interno di un perimetro di standard minimi inderogabili. Solo a queste condizioni potrà evitarsi che, nei rapporti tra fornitori di IA e utenti, la prassi negoziale riproponga logiche di traslazione integrale del rischio incompatibili con il quadro europeo di responsabilizzazione multilivello.
Prospettive evolutive e considerazioni conclusive
L’analisi svolta nei paragrafi precedenti evidenzia come la disciplina dei sistemi di Intelligenza Artificiale si collochi all’interno di un contesto normativo in rapida evoluzione, nel quale il Legislatore europeo ha progressivamente cercato di sviluppare strumenti volti a garantire un elevato livello di sicurezza, trasparenza e responsabilità nell’utilizzo delle nuove tecnologie. Come si è visto, l’AI Act rappresenta il primo tentativo organico di regolamentare l’Intelligenza Artificiale secondo un approccio basato sul rischio, mentre la direttiva NIS2 rafforza il quadro di sicurezza delle infrastrutture digitali e dei servizi essenziali.
Tuttavia, si è constatato che la complessità tecnica dei sistemi di IA e la pluralità di soggetti coinvolti nella loro progettazione, sviluppo e utilizzo rendono difficile per la sola normativa pubblica disciplinare in modo esaustivo tutte le possibili configurazioni operative di tali tecnologie. I modelli di IA, si caratterizzano per un funzionamento dinamico ed evolutivo, che può generare risultati non pienamente prevedibili e che si inserisce spesso all’interno di ecosistemi tecnologici articolati, composti da diversi attori e livelli della supply chain.
In questo scenario, dall’analisi svolta è emerso con chiarezza che il ruolo del diritto non può limitarsi alla definizione di obblighi generali e di principi regolatori, ma deve necessariamente confrontarsi con l’esigenza di garantire strumenti applicativi in grado di adattarsi alla varietà dei contesti operativi in cui i sistemi di IA vengono impiegati.
È in questa prospettiva che emerge la funzione integrativa del contratto, quale strumento capace di tradurre i principi della regolazione europea in soluzioni operative calibrate sulle specifiche caratteristiche dei rapporti tra gli operatori economici.
La contrattualizzazione consente di adattare la distribuzione delle responsabilità alle concrete modalità di sviluppo, distribuzione e utilizzo dei sistemi di Intelligenza Artificiale, tenendo conto delle diverse posizioni dei soggetti coinvolti nella filiera tecnologica. In questo modo, il contratto contribuisce a rendere effettiva la governance del rischio prevista dal Legislatore europeo, permettendo di coordinare obblighi, controlli e meccanismi di cooperazione tra i diversi attori del sistema.
Da questa prospettiva, la relazione tra normativa pubblica e autonomia negoziale non deve essere interpretata in termini di contrapposizione, ma piuttosto come un rapporto di complementarità. Mentre la regolazione europea stabilisce gli standard minimi di sicurezza, trasparenza e responsabilità cui devono conformarsi i sistemi di IA, il contratto consente di declinare tali principi in modo flessibile e adattabile alle specificità delle diverse applicazioni tecnologiche e dei contesti organizzativi in cui esse vengono implementate.
Guardando alle possibili evoluzioni future, è verosimile che il ruolo della contrattualizzazione nella disciplina dei sistemi di Intelligenza Artificiale sia destinato a rafforzarsi ulteriormente. La crescente diffusione di modelli di IA in settori strategici dell’economia e della Pubblica Amministrazione comporterà infatti un progressivo consolidamento di prassi contrattuali specializzate, capaci di affrontare in modo sempre più sofisticato le questioni relative alla gestione del rischio tecnologico, alla sicurezza dei sistemi e alla ripartizione delle responsabilità lungo la filiera digitale.
Parallelamente, anche il quadro normativo europeo potrebbe evolversi verso forme sempre più integrate di governance tecnologica, nelle quali la regolazione pubblica continui a definire principi e standard di riferimento, lasciando tuttavia spazio a strumenti flessibili di attuazione, tra cui la contrattazione tra gli operatori economici e l’adozione di modelli organizzativi e di compliance interni alle imprese.
In questa prospettiva, la normativa potrebbe progressivamente orientarsi non tanto verso una disciplina rigida e dettagliata delle singole clausole contrattuali, quanto piuttosto verso la definizione di principi guida e requisiti minimi relativi alla gestione del rischio, alla trasparenza e alla ripartizione delle responsabilità nei rapporti contrattuali relativi ai sistemi di IA, improntati al rispetto della disciplina consumeristica e all’equilibrio tra i contraenti.
Un simile approccio consentirebbe di valorizzare il ruolo dell’autonomia negoziale senza irrigidire eccessivamente una materia caratterizzata da una forte evoluzione tecnologica.
Il Legislatore potrebbe, ad esempio, individuare alcune aree nelle quali favorire la standardizzazione di prassi contrattuali o la predisposizione di modelli di riferimento e, parallelamente, quelle che invece necessitano di maggiore flessibilità negli accordi, lasciando alle parti un margine di adattamento alle specificità dei singoli contesti applicativi e delle diverse filiere tecnologiche. Oppure, ancora, paventare l’ipotesi di istituire una polizza assicurativa obbligatoria per i sistemi maggiormente complessi, come misura a tutela del rischio imprevedibile.
In conclusione, l’analisi dei modelli normativi e contrattuali applicabili ai sistemi di IA evidenzia come la gestione dei rischi connessi a tali tecnologie non possa certamente essere affidata esclusivamente alla regolazione legislativa. Piuttosto, essa richiede un approccio su più piani, nel quale norme pubbliche, strumenti contrattuali e misure organizzative cooperino nel costruire un sistema di governance capace di coniugare innovazione tecnologica e tutela degli interessi giuridici coinvolti.
L’analisi evidenzia come la crescente diffusione dei sistemi di Intelligenza Artificiale metta in crisi i tradizionali modelli di imputazione della responsabilità giuridica, a causa della non prevedibilità degli output e della natura opaca di molti sistemi avanzati. Il quadro europeo, articolato tra AI Act, NIS2 e disciplina sulla responsabilità da prodotto, rafforza gli strumenti di prevenzione e gestione del rischio, ma non sempre consente una chiara allocazione ex post delle responsabilità.
In questo spazio di incertezza si colloca il ruolo del contratto, inteso come strumento flessibile di distribuzione del rischio e di integrazione della regolazione pubblica lungo la filiera dell’IA. Il contributo costituisce la base di riflessione del white paper “Contrattualizzazione e allocazione delle responsabilità nei modelli di IA: AI Act, NIS2 e profili critici” di Chiara De Filippo, al quale si rinvia per un approfondimento sistematico.
Fonti:
[1] Longo A., Masi G., LLM, cosa sono: tutto ciò che bisogna sapere sui large language models, in Agenda Digitale, 2025: “I Large language models sono modelli di deep learning estremamente complessi, basati su reti neurali con miliardi di parametri, progettati per comprendere, interpretare e generare linguaggio naturale in forma scritta. Il loro funzionamento si basa sull’addestramento su vastissimi corpora di testi eterogenei – libri, articoli accademici, siti web, contenuti social, conversazioni online – che consente di cogliere e modellare con efficacia le strutture sintattiche, semantiche, lessicali e pragmatiche della lingua umana in tutte le sue sfumature”, consultabile al sito: https://www.agendadigitale.eu.
[2] Lusardi G., Assicurare l’imprevedibile: le polizze per il rischio di IA, in Diritto al Digitale, 20 maggio 2024, consultabile al sito: https://dirittoaldigitale.com.
[3] https://www.nist.gov/itl/ai-risk-management-framework.
[4]Responsabilità dei sistemi AI e decisioni automatizzate: il nuovo paradigma giuridico dell’era algoritmica, in ICT Security Magazine, 27 gennaio 2026, consultabile al sito: https://www.ictsecuritymagazine.com.
[6] https://lexroom.ai/terms-and-conditions.
[7] Franchi A., Riflessioni sulla manleva, in Contratto e impresa, 1, 2017, 155.
[8] Fedi A., Tre osservazioni sull’AI Act e il suo rapporto con il diritto dei contratti, in MediaLaws, 3/2024, 284 ss.
[9] Contratti SaaS: guida legale a SLA, dati e aggiornamenti (2025), op. cit.
[10] Lusardi G., op.cit.
[11] Direttiva 93/13/CEE del Consiglio, del 5 aprile 1993, concernente le clausole abusive nei contratti stipulati con i consumatori. Consultabile al sito: https://eur-lex.europa.eu/legal-content/IT/ALL/?uri=celex%3A31993L0013.
[12] Codice del consumo, D.Lgs. 6 settembre 2005, n. 206, artt. 33-37 e 128 ss.
[13] Direttiva (UE) 2019/770 del Parlamento europeo e del Consiglio, del 20 maggio 2019. Consultabile al sito: https://eur-lex.europa.eu/legal-content/it/ALL/?uri=CELEX%3A32019L0770.
[14] Regolamento (UE) 2022/1925 (Digital Markets Act), consultabile al sito: https://eur-lex.europa.eu/eli/reg/2022/1925/oj/eng.
https://www.ictsecuritymagazine.com/articoli/sistemi-di-ia/