Per aumentare la fiducia nell’IA, non cercate un unico sistema perfetto; combinate sistemi che falliscono in modi diversi.
Le idee fondamentali di questo articolo sono state presentate per la prima volta nell’intervento “Beyond Quality: Measuring Trust in AI Outcomes” al Software Quality Days 2026 a Vienna.
Scarica il Trust Architecture Canvas come modello PDF.
Possiamo fidarci dell’IA? — La domanda fondamentale di tutte le implementazioni dell’IA
Tutte le discussioni sull’IA finiscono prima o poi per arrivare alla stessa domanda:
Possiamo fidarci dell’IA?
In alcuni casi, le persone dicono di non poterla utilizzare ufficialmente perché operano in un settore regolamentato. Altri dicono di aver provato strumenti di IA come Cursor o GitHub Copilot e che hanno funzionato molto bene. Ma, in qualche modo, tutte queste discussioni finiscono con una domanda: “Possiamo fidarci dell’IA?”
La fiducia è ovunque, ma cos’è la fiducia?
Consideri due carrelli della spesa:
- Uno ha una catena con moneta, quindi è necessario inserire una moneta prima di utilizzarlo.
- L’altro non richiede nulla.
Nel primo caso, sembra che il supermercato non si fidi che io restituisca il carrello senza una cauzione.
Nel secondo caso, il supermercato si fida abbastanza di me da restituire il carrello nel posto giusto e non creare disagi agli altri automobilisti.
È un piccolo esempio, ma mostra come i sistemi traducono la fiducia ai loro stakeholder – come me che faccio la spesa settimanale in un supermercato o in un altro.
La fiducia è graduale, soggettiva e contestuale
Queste sono le proprietà di base della fiducia.
- La fiducia non è binaria; è un grado di qualcosa.
- La fiducia non è una proprietà intrinseca del sistema; qualcuno si fida di qualcosa, per uno scopo specifico, in un contesto specifico.
Perché usiamo la fiducia per integrare la qualità
Usiamo la fiducia a causa di vincoli naturali nel dominio operativo; usiamo la fiducia per decisioni più rapide quando sono disponibili informazioni limitate.
Le metriche di qualità non funzionano più quando il dominio diventa troppo complesso
Per domini aziendali meno complessi, il costo della misurazione è accettabile, quindi possiamo utilizzare le metriche di qualità classiche. Con l’aumentare della complessità del dominio, la misurazione classica diventa troppo costosa.
A questo punto, abbiamo una scelta. Possiamo continuare a cercare di basare le decisioni solo su metriche oggettive, oppure possiamo usare qualcosa che raggruppiamo sotto l’ombrello della fiducia: percezioni, prova sociale, probabilità e altri proxy.
La cybersecurity mostra come la qualità si trasformi in fiducia
Un decennio fa, la cybersecurity era relativamente facile da quantificare e misurare: tempo di brute force, controlli interni di base…
A partire dal 2024, i vettori di attacco sono cambiati e abbiamo iniziato a parlare molto di più della necessità di analizzare le terze parti nella catena di fornitura.
Stiamo ancora misurando la qualità dei controlli di cybersecurity, oppure stiamo misurando sempre più la fiducia?
Una tipica valutazione delle vulnerabilità di terze parti riguarda più l’affidarsi agli indicatori di fiducia dimostrati dal partner che a metriche rigorose di qualità e sicurezza.
Gli esseri umani e l’IA sono entrambi fallibili
Qui hai l’illusione di Munker–White.
L’illusione mostra che due colori possono essere oggettivamente uguali, ma noi continuiamo a vederli come diversi. Questo è solo un esempio di come, in quanto esseri umani, possiamo essere ingannati.
Gli esseri umani non sono un riferimento perfetto. Anche noi sbagliamo e abbiamo bisogno di controlli che affianchino il nostro giudizio.
Anche l’IA può essere ingannata
Per quanto riguarda l’IA, un esempio classico è chiedere come arrivare all’autolavaggio.
L’IA può rispondere alla domanda in modo letterale e suggerire di andare a piedi.
La domanda realistica non è “fidarsi o non fidarsi”, ma dove si rompe questo sistema?
Come misuriamo la fiducia?
Probabilmente i numeri assoluti della fiducia non avranno molto senso (semplicemente non disponiamo di una vera unità di misura per la fiducia). Tuttavia, i numeri relativi sono molto più utili.
È utile capire se la fiducia è più alta o più bassa in una configurazione rispetto a un’altra. Questo ci aiuta a confrontare i sistemi e a spiegare le decisioni.
Le metriche di fiducia ci aiutano a dialogare con gli stakeholder. Invece di dire: “Sento che funziona”, possiamo spiegare perché una certa configurazione di IA è accettabile o perché sono necessari controlli aggiuntivi.
Come miglioriamo la fiducia?
Il mio quadro pratico include tre livelli:
- Livello uno: fiducia personale
- Livello due: fiducia sistematica
- Livello tre: fiducia architetturale
Livello uno: Fiducia personale
La fiducia personale è intuitiva. Ti fai una tua idea se puoi fidarti o meno del sistema.
Con l’IA, questo significa metterci le mani. La testi, le assegni compiti, vedi dove si rompe.
Come la fiducia viene quantificata e misurata
- Una metrica è il tempo che dedichi a scrivere prompt.
- Un’altra è il tempo che dedichi a correggere il risultato.
Se dedichi molto tempo ai prompt o a riparare l’output, questo ti dice qualcosa sul tuo reale livello di fiducia.
Piano d’azione
- Testa l’IA nel tuo lavoro.
- Osserva dove ti aiuta, dove si rompe e quanto impegno ti serve per rendere il risultato utilizzabile.
Livello due: Fiducia sistematica
A livello sistematico, passiamo dall’esperienza personale alla scalabilità. Non è solo “So dove l’IA fallisce”. È: mettiamolo su scala e testiamolo per un dominio specifico o una specifica classe di attività.
In pratica, facciamo lo stesso che al livello uno, ma ora con più casi, più struttura e più statistiche.
Come la fiducia viene quantificata e misurata
- Il proxy della fiducia diventa la probabilità di output corretto.
La si calcola come il numero di output corretti diviso per il numero totale di casi. Inoltre, si aggiunge un intervallo di confidenza in funzione del numero di casi di test.
Piano D’Azione
- Utilizzi benchmark pubblici quando pertinenti.
- Utilizzi i propri dataset per domini specifici.
Aggiunga campionamento casuale e revisione umana per comprendere se il risultato statistico corrisponde alle esigenze reali del suo dominio.
Livello tre: fiducia architetturale
A livello architetturale, la domanda cambia di nuovo. Non ci fidiamo dell’IA al 100% e probabilmente non lo faremo mai. Ma:
Possiamo costruire qualcosa di affidabile utilizzando sistemi di cui non ci fidiamo al 100%?
La risposta è “sì”. Internet è un esempio: le reti fisiche non sono qualcosa di cui possiamo fidarci al 100%, ma in qualche modo siamo riusciti a costruire Internet sopra di esse.
Come viene quantificata e misurata la fiducia
Per prima cosa si misura come ciascun sistema funziona separatamente. Poi si misura come funzionano insieme.
- La metrica importante è il tasso di guasto condiviso: casi in cui tutti i sistemi falliscono nello stesso momento.
Piano D’Azione
- Identificare i sistemi chiave nella pipeline: IA, persone, politiche, validazioni, controlli.
- Misurare i rispettivi livelli di fiducia individuali.
- Testare l’intera architettura per verificare se il sistema combinato fornisce un livello di fiducia superiore rispetto a ciascuna parte presa singolarmente.
Aumentare la fiducia combinando sistemi che si guastano in modi diversi
La fiducia combinata dipende da come i sistemi falliscono insieme.
Se abbiamo il sistema A e il sistema B, ciascuno con il proprio livello di fiducia, cosa succede quando li combiniamo?
- Non possiamo semplicemente sommare i loro livelli di fiducia, perché potremmo superare il 100%.
- Non possiamo nemmeno limitarci a prendere il minimo o il massimo.
La risposta dipende da come i sistemi sono progettati e da come falliscono insieme.
L’analisi congiunta mostra il livello di fiducia combinato
Per comprendere la fiducia combinata, è necessaria un’analisi congiunta. Testiamo separatamente il sistema A e il sistema B, quindi osserviamo anche come si comportano sugli stessi casi.
Ad esempio, il sistema A ha un livello di fiducia dell’84% e il sistema B del 91%. Tuttavia, quando li combiniamo, la fiducia complessiva diventa del 95%, perché il tasso di fallimento condiviso è solo del 5%. Non falliscono sempre sugli stessi casi, e questa è la parte importante.
Un’architettura affidabile utilizza reti di sicurezza sovrapposte
Nell’ingegneria del software, la revisione tra pari funziona allo stesso modo. Un’altra persona può individuare qualcosa che non hai rilevato.
Nell’aviazione, vediamo anche ridondanza nei controlli e nelle procedure.
La semplice duplicazione dei controlli non aumenterà di molto la fiducia. Ciò che cerchiamo è una ridondanza diversificata: orchestrare sistemi che si guastano in modi diversi.
Non ogni ridondanza è realistica
Una certa ridondanza è utile in teoria, ma non è realistica. Ad esempio, nei servizi taxi, potremmo aggiungere un secondo autista e probabilmente il servizio diventerebbe più sicuro. Ma questo non è realistico.
Quindi, invece, costruiamo una rete di sistemi diversi: regolamenti, politiche, valutazioni degli autisti, controlli dell’app, meccanismi di segnalazione. Tutti questi sistemi si combinano e contribuiscono al livello complessivo di fiducia.
L’essere umano nel ciclo è un altro sistema di fiducia
Possiamo considerare l’essere umano nel ciclo come un altro sistema di fiducia. Gli esseri umani apportano intuizione e buon senso, e i loro principi sono diversi da quelli dei sistemi di IA. Questo rende gli esseri umani un fattore di fiducia ideale.
L’architettura conta più dei singoli punteggi di fiducia
Due sistemi solidi possono comunque fallire insieme se falliscono nello stesso modo.
Allo stesso tempo, due sistemi imperfetti possono creare un sistema combinato più robusto se si compensano a vicenda. Quindi la domanda fondamentale di progettazione è: questi sistemi si guastano in modo diverso?
Abbiamo appena reinventato l’affidabilità?
Non proprio.
L’affidabilità fa parte della fiducia, ma la fiducia copre un insieme più ampio di concetti. Non ci stiamo limitando a chiederci se un componente funzioni: stiamo esaminando l’intera pipeline decisionale: IA, esseri umani, policy, controlli e contesto aziendale.
La fiducia coinvolge anche più stakeholder: utenti, manager, autorità di regolamentazione, responsabili aziendali, esseri umani nel loop e persone interessate dalla decisione.
Conclusione principale
Un’IA affidabile non consiste nel trovare un unico modello di IA perfetto. Tutti i sistemi sono vulnerabili, inclusi i sistemi di IA, i sistemi umani, i sistemi aziendali, le politiche e i controlli.
L’idea è:
- Comprendere come si guastano i sistemi e poi
- Combinare sistemi che si guastano in modi diversi.
Questo è il modo per arrivare a qualcosa di affidabile.
Cosa c’è dopo? La fiducia diventa più attuabile quando è incorporata nella più ampia supervisione dell’implementazione dell’IA con controlli, revisioni e indicatori di prestazione.
Alexis Savkin è un architetto della strategia e fondatore di BSC Designer, una piattaforma software per l’esecuzione della strategia con la Scheda di valutazione bilanciata al centro. Aiuta le organizzazioni a tradurre la strategia in obiettivi misurabili, indicatori chiave di prestazione e iniziative. Alexis è il creatore dello Strategy Execution Canvas, l’autore di oltre 100 articoli su strategia e misurazione delle prestazioni e un relatore abituale.