L’intelligenza artificiale può segnalare anomalie, suggerire interventi di manutenzione e contribuire alla pianificazione della produzione. Ma che cosa accade quando una raccomandazione è sbagliata? Il problema non è soltanto misurare l’accuratezza di un modello: è poter ricostruire il percorso che ha portato dal dato all’azione.
Immaginiamo un sistema che consigli di fermare un macchinario per un possibile guasto. La proposta può essere corretta, ma può anche derivare da un sensore mal calibrato o da informazioni obsolete. Un indice di confidenza, da solo, non dice quali fonti siano state usate, quali alternative siano state valutate e chi abbia autorizzato la decisione.
Indice degli argomenti
Una catena di evidenze, non solo un risultato
Una decisione verificabile dovrebbe documentare la provenienza e l’integrità dei dati, il modello impiegato, la motivazione della raccomandazione, i controlli svolti, le eventuali divergenze e il responsabile dell’azione. Quando collaborano più agenti AI, il consenso non garantisce indipendenza: agenti diversi possono ripetere lo stesso errore iniziale.
Mati e Acid-Q: una proposta di ricerca
Nel mio percorso di ricerca sviluppo Mati, Matematica della Fiducia Artificiale, e la proposta architetturale Acid-Q, orientate a strutturare controlli incrociati, registri di audit, soglie di rischio e supervisione umana. L’obiettivo è studiare come distinguere una raccomandazione plausibile da una decisione sufficientemente verificata per il contesto operativo. Non si tratta di un sistema industriale certificato né di una tecnologia la cui efficacia sia già dimostrata sperimentalmente.
Il principio è proporzionare la verifica all’impatto: un suggerimento per riordinare le lavorazioni non richiede gli stessi controlli di un intervento sui parametri di sicurezza di una macchina. Le decisioni ad alto rischio devono seguire le procedure tecniche e di sicurezza previste, con l’intervento di personale autorizzato.
Un caso concreto: la manutenzione predittiva
Se un algoritmo rileva un aumento anomalo della temperatura, un controllo ulteriore può verificare affidabilità del sensore, cronologia delle misure e coerenza con vibrazioni e assorbimento elettrico. Si possono quindi confrontare le alternative operative: fermo, riduzione del carico o ispezione urgente. Quando le evidenze sono discordanti, il sistema dovrebbe dichiarare l’incertezza e applicare la procedura di sicurezza pertinente, non produrre una certezza artificiale.
Questa impostazione ha anche un valore gestionale. Un registro delle decisioni consente di analizzare gli errori, individuare fenomeni di degrado del modello, distinguere problemi di misura da problemi interpretativi e migliorare i processi organizzativi.
Che cosa resta da validare
Per verificare l’utilità di Mati/Acid-Q servono test controllati, benchmark comparativi, misure dei falsi allarmi, dei mancati rilevamenti, dei tempi di risposta e dei costi aggiuntivi di verifica. Bisogna dimostrare anche che i controlli siano sufficientemente indipendenti e non introducano nuovi punti di guasto. Le prime sperimentazioni dovrebbero avvenire in simulazione o in ambienti di test, senza comandare direttamente funzioni industriali critiche.
La domanda decisiva per l’industria non è soltanto quanto un’AI sia accurata o veloce, ma se tecnici e responsabili possano comprenderne, contestarne e autorizzarne le decisioni. La fiducia operativa non dovrebbe dipendere dall’apparente sicurezza di una risposta: dovrebbe poggiare su evidenze controllabili e responsabilità chiaramente attribuite.
