L'incertezza viene spesso trattata come un difetto da eliminare. Nei sistemi reali, invece, è una condizione naturale: non sappiamo tutto, non misuriamo tutto e non possiamo prevedere ogni interazione.
L'evoluzione verso soluzioni informatiche permeate da un uso intenso di intelligenza artificiale rende questa condizione ancora più evidente. Mantenere un controllo efficace sulla qualità del software non significa più soltanto verificare che un algoritmo risponda sempre nello stesso modo, ma imparare a governare risposte plausibili, livelli di confidenza e scarti accettabili.
Il passaggio da algoritmi deterministici, dove se accade x allora accade y, a modelli probabilistici, dove se accade x allora probabilmente accade y con una certa confidenza, non è solo un cambiamento tecnico. È un cambiamento culturale.
Assicurare l'incertezza significa progettare processi capaci di restare utili anche quando l'informazione è incompleta. Vuol dire preferire margini, scenari e feedback continui alla falsa precisione di una risposta unica.
Un sistema robusto non promette di sapere tutto. Promette di correggersi quando scopre qualcosa di nuovo.
La rottura con il paradigma deterministico
Di norma siamo abituati a collaudare le soluzioni informatiche attraverso processi che verificano in modo preciso il comportamento di un algoritmo deterministico. Una patch di sistema, per esempio, è accompagnata da un prospetto di aggiornamento che aiuta a determinare puntualmente l'impatto della modifica sul comportamento atteso.
Questo modello funziona bene quando i rami di comportamento sono identificabili e il superamento dei test è binario: il caso passa o non passa. La complessità, l'effort e il costo del collaudo sono funzione dei rami che si decide di verificare; identificati i rami critici, diventa relativamente chiaro anche il rischio di una mancata verifica.
Ma può essere ancora valido lo stesso modello quando il software contiene componenti che hanno un comportamento intrinsecamente non deterministico?
L'evoluzione verso algoritmi statistici richiede un cambio di paradigma nel modo in cui concepiamo qualità, testing e controllo delle modifiche. Un test può essere superato se l'accuratezza è sufficientemente alta, pur non essendo perfetto. Questa accettazione di un certo grado di incertezza statistica, estranea al testing deterministico, diventa parte centrale degli exit criteria di un collaudo.
Una soluzione non è più soltanto giusta o sbagliata. Il suo risultato diventa uno dei tanti possibili esiti: accettabile o non accettabile rispetto a una soglia, a un contesto e a un impatto.
Metodi bayesiani e conoscenza aggiornabile
L'innesto teorico più utile per leggere questo passaggio è il pensiero bayesiano. In un sistema classico il ragionamento tende a comprimersi in una sequenza di condizioni: se accade A e B, allora la conclusione è C. Questo schema è efficace quando regole e confini sono stabili, ma diventa fragile quando l'informazione è incompleta, rumorosa o contraddittoria.
I metodi bayesiani partono da una domanda diversa: dato ciò che sappiamo ora, quanto è plausibile ciascuna spiegazione possibile? La conoscenza non viene trattata come una regola immutabile, ma come uno stato di credenza che può essere aggiornato quando arrivano nuove evidenze.
Evidenza, distribuzione delle possibilità, aggiornamento, decisione: è questa la catena da governare.
Il punto non è trasformare ogni scelta in una formula statistica. Il punto è rendere esplicito che una previsione può avere gradi diversi di affidabilità e che la decisione dovrebbe tenere conto del costo dell'errore, del rischio associato alle alternative e della possibilità di acquisire nuova informazione.
Dalla previsione al margine
Quando una decisione dipende da dati incompleti, la risposta più onesta non è una certezza decorata da numeri. È un intervallo, uno scenario, un grado di fiducia, una soglia di revisione.
Questo vale in modo particolare per l'AI: un modello non consegna certezze, ma distribuzioni di possibilità. Usarlo bene richiede strumenti che rendano visibile il grado di fiducia, non che lo nascondano sotto una superficie troppo sicura. L'AI non rende improvvisamente probabilistico un mondo che prima non lo era; rende più evidente quanto fosse limitante descrivere problemi complessi solo attraverso soglie e decisioni vero/falso.
Il rischio della deriva
Il comportamento del sistema reale può inoltre derivare rispetto a quello inizialmente atteso. I dati reali cambiano, si discostano dai dati di addestramento e portano il modello in territori che il collaudo iniziale non aveva intercettato.
Per questo l'osservabilità deve evolvere: non solo monitoraggio del funzionamento tecnico di una macchina, ma analisi continua dell'affidabilità con cui il sistema continua a eseguire i task assegnati entro livelli di accettabilità compatibili.
L'attenzione deve rimanere sul pensiero critico che intermedia la tecnologia. Delegare per convenienza o pigrizia mentale ogni decisione alla catena uomo-macchina rende il sistema fragile, perché trasforma l'incertezza in automatismo opaco invece che in materia da supervisionare.
Dalla cibernetica alla supervisione adattiva
La cibernetica di Norbert Wiener offre una chiave utile per interpretare il controllo dei sistemi probabilistici. Un sistema non si governa soltanto impartendo istruzioni: si osservano gli effetti che produce e si corregge il comportamento sulla base di quegli effetti.
Il concetto centrale è il feedback. Può ridurre lo scostamento tra comportamento atteso e comportamento osservato, stabilizzando il sistema, oppure amplificare una variazione e portarlo verso nuovi stati. In entrambi i casi, la qualità non dipende solo dall'azione iniziale, ma dal ciclo continuo tra comportamento, misura, comunicazione e correzione.
Comportamento, osservazione, scostamento, comunicazione, correzione, nuovo comportamento.
Per questo il semplice monitoraggio tecnico non basta. Sapere che un servizio risponde, che una pipeline è operativa o che un processo è disponibile non significa sapere se il sistema continua a produrre esiti coerenti con le aspettative. Il vero oggetto del controllo diventa la distanza tra ciò che il sistema dovrebbe fare e ciò che sta effettivamente facendo.
La supervisione adattiva richiede quindi un canale di comunicazione con il sistema in esecuzione. Quando il feedback è negativo, quel canale deve guidare il sistema verso la riduzione dello scarto: aggiornare soglie, regole, contesto, dati, parametri o procedure operative. Quando il feedback è positivo, deve invece accompagnare il sistema verso il nuovo stato, riconoscendo che una variazione può essere utile se resta osservabile, comunicabile e governata.
Feedback come assicurazione
La forma più pratica di assicurazione è un ciclo di feedback corto. Misurare, correggere, registrare l'errore e aggiornare il processo trasforma l'incertezza da minaccia astratta a materiale operativo.
Il collaudo non è più sufficiente da solo. Il modello deve evolvere verso sistemi di supervisione adattiva, capaci di rilevare derive, comunicare con il sistema in esecuzione, aggiornare soglie, regole, contesto, dati o procedure operative e riportare quella conoscenza dentro il processo di governo.