Quando un’analisi non sa spiegare sé stessa.
Più le fonti si moltiplicano e più l’intelligenza artificiale lavora in profondità, meno chi decide riesce a vedere come si è arrivati al risultato. L’analisi diventa una “scatola nera”: si vede l’esito — una mappa di rischio, un indicatore, un alert — ma non il percorso che lo ha generato.
Tre domande, in particolare, restano quasi sempre senza risposta documentata:
01
Da quali dati nasce?
Quali fonti sono state usate, quali scartate e per quale motivo.
02
Quale procedimento lo ha prodotto?
Con quale versione dell’algoritmo, con quali impostazioni.
03
Ha rispettato le regole dichiarate?
Le fonti previste, la revisione umana attesa: davvero applicate?
Finché nessuno contesta, questa opacità non pesa. Ma nel momento di un ricorso, di un contenzioso o di un audit, un’analisi che non sa dimostrare la propria origine si trasforma da risorsa in rischio.