L’intelligenza artificiale può produrre risultati economici soddisfacenti anche quando le aziende faticano a ricostruire il percorso che porta a una decisione automatizzata: questo, almeno, si evince dal rapporto The Confidence Gap in AI Decisions, realizzato da Corinium Global Intelligence per FICO, società specializzata nell’analisi dei dati e nei sistemi di supporto alle decisioni. La ricerca, condotta nell’estate del 2026, ha coinvolto 1.004 responsabili senior delle attività legate a tecnologia, dati e intelligenza artificiale, appartenenti a sette settori economici e distribuiti in quattro aree geografiche.
L’85,1% degli intervistati dichiara che i risultati economici ottenuti con l’IA hanno raggiunto o superato le aspettative iniziali; soltanto il 5,2%, tuttavia, afferma di avere piena fiducia nella propria capacità di spiegare le decisioni prese dai sistemi alle autorità di regolamentazione e ai clienti. Il ritorno economico riguarda il rapporto fra benefici ottenuti e aspettative aziendali; la capacità di spiegare richiede, invece, di comprendere quali elementi abbiano determinato una specifica decisione, ma anche di poterli illustrare a chi ne subisce le conseguenze. Per esempio un sistema può ridurre i tempi di lavorazione o automatizzare attività ripetitive senza che l’impresa disponga di strumenti adeguati per chiarire perché abbia assegnato un punteggio a un cliente, segnalato un’operazione come sospetta oppure escluso una richiesta da una procedura.
Il rapporto invita quindi a distinguere la diffusione dell’IA dalla capacità di governarla, visto che rimane una distanza significativa fra la valutazione positiva dei risultati economici e la sicurezza con cui le organizzazioni affermano di poter rendere conto delle proprie decisioni automatizzate.
Decisioni automatizzate: il problema riguarda anche i clienti
Il divario di cui si sta parlando diventa ancora più cruciale, ovviamente, quando l’intelligenza artificiale interviene su decisioni che incidono direttamente sulle persone. Nel credito, per esempio, un modello può contribuire alla valutazione di una richiesta di finanziamento, nei pagamenti può individuare transazioni considerate anomale, o, ancora ,nell’assicurazione può concorrere alla definizione del rischio. In tutti questi casi, conoscere il risultato finale non basta sempre a chiarire quali dati abbiano pesato sulla valutazione, quanto abbia influito ciascuna variabile e come sia possibile contestare un esito errato.
Secondo l’indagine FICO, il 28,5% delle decisioni aziendali che incidono direttamente sui clienti viene preso con il supporto dell’IA, il che significa che una parte consistente di queste scelte resta affidata a persone o a procedure che non impiegano sistemi di intelligenza artificiale: le imprese possono quindi ottenere benefici dall’automazione senza aver trasferito ai modelli algoritmici una quota altrettanto ampia delle decisioni più delicate. L’automazione delle attività interne, infatti, può offrire vantaggi anche quando le decisioni con conseguenze dirette sui clienti rimangono sotto il controllo umano.
Per le aziende, la trasformazione digitale richiede inoltre infrastrutture adeguate e collegamenti affidabili, soprattutto quando gli applicativi vengono utilizzati attraverso servizi cloud. In questo ambito, i comparatori, come quello di SOSTariffe.it per Internet casa, consentono di confrontare le offerte disponibili e verificarne le condizioni economiche. La connettività, tuttavia, è soltanto uno degli elementi necessari per utilizzare strumenti professionali basati sull’IA: occorrono anche procedure interne per controllare i dati, verificare i risultati, e infine stabilire chi debba intervenire quando il sistema produce una valutazione contestata. Un’organizzazione può disporre di applicativi efficienti e ottenere risparmi di tempo senza aver definito un processo completo di controllo, e se un cliente chiede conto di un rifiuto o un’autorità avvia una verifica, l’impresa deve poter risalire al funzionamento del sistema e alle informazioni impiegate, nei limiti pertinenti al modello e al caso specifico. Ne deriva che la qualità di un progetto di IA dipende quindi anche dalla possibilità di documentarne l’impiego e di attribuire responsabilità precise alle persone che ne supervisionano i risultati.
Audit e controllo dei modelli, le imprese sono ancora indietro
Un secondo elemento riguarda gli strumenti con cui le aziende cercano di prevenire errori e discriminazioni: secondo l’indagine, il 58,8% delle organizzazioni intervistate ha adottato sistemi per rilevare possibili distorsioni nei risultati dei modelli, mentre il 53,5% sottopone regolarmente i sistemi di IA ad attività di audit. Le due percentuali indicano una diffusione non irrilevante delle pratiche di controllo, ma testimoniano che una parte consistente delle imprese non ha un presidio dichiarato di questo tipo. Il quadro diventa più articolato quando si considera l’organizzazione complessiva della gestione dell’intelligenza artificiale: soltanto l’8,2% dei rispondenti riferisce di disporre di una piattaforma condivisa per l’IA pienamente operativa. La presenza di verifiche sui singoli modelli, dunque, non coincide necessariamente con un sistema di governo comune a tutta l’azienda, e senza procedure condivise, reparti diversi possono adottare strumenti differenti, utilizzare criteri di valutazione non omogenei e conservare documentazione difficile da confrontare.
La questione riguarda sempre di più anche l’IA agentica, cioè i sistemi progettati per eseguire sequenze di attività con un certo grado di autonomia. C’è da dire che la loro diffusione nei servizi rivolti ai clienti resta agli inizi, e appena il 2,4% delle organizzazioni dichiara di averli implementati su larga scala in questo ambito. Il fatto è che l’automazione di processi articolati pone problemi ulteriori rispetto all’impiego di un modello per una singola operazione poiché diventa necessario ricostruire il susseguirsi delle azioni, individuare il momento in cui si è prodotto un errore e stabilire quali interventi umani siano previsti.
Anche la formazione assume un peso crescente: il 63,2% degli intervistati individua nelle competenze del personale uno dei principali rischi per i prossimi cinque anni. La carenza di professionalità adeguate può rallentare l’adozione delle nuove tecnologie e rendere più difficile valutarne i risultati. Il rapporto fotografa quindi organizzazioni che stanno cercando di consolidare i controlli mentre estendono l’impiego dell’IA.
AI Act, quali obblighi di trasparenza per le aziende
Il tema della trasparenza ha anche una dimensione normativa, e nell’Unione europea, l’AI Act introduce obblighi specifici per determinate categorie di sistemi e di utilizzi, secondo un approccio basato sul rischio. L’articolo 50, applicabile dal 2 agosto 2026, riguarda in particolare la trasparenza delle interazioni con alcuni sistemi di IA e l’identificazione dei contenuti generati o manipolati artificialmente. I fornitori devono progettare i sistemi che interagiscono direttamente con le persone in modo che gli utenti siano informati quando stanno parlando con un sistema di IA, salvo i casi in cui ciò risulti evidente. Sono inoltre previste regole per la marcatura dei contenuti sintetici e obblighi informativi in determinate circostanze, fra cui la diffusione di deepfake.
Il quadro normativo richiede attenzione alle specificità dei singoli casi: gli obblighi dell’articolo 50 non equivalgono a un obbligo generale per ogni impresa di illustrare nel dettaglio qualsiasi decisione presa da un algoritmo. Per alcuni sistemi ad alto rischio operano inoltre disposizioni specifiche, che comprendono requisiti relativi alla documentazione, alla registrazione delle attività e alla supervisione umana. Ma, come dimostra il rapporto, la capacità di spiegare una decisione dipende dalla progettazione del sistema, dalla documentazione disponibile e dalle procedure adottate dall’organizzazione che lo utilizza: per le aziende, prepararsi significa valutare quali decisioni affidare all’IA, quali verifiche mantenere e quali informazioni conservare per ricostruire il processo.
The post AI, solo il 5,2% dei dirigenti sa spiegare le decisioni degli algoritmi appeared first on Key4biz.
https://www.key4biz.it/ai-solo-il-52-dei-dirigenti-sa-spiegare-le-decisioni-degli-algoritmi/591216/
