Registro delle decisioni AI: perché ogni agente ha bisogno di un audit trail

Un agente AI che opera nel mondo reale prende decisioni in continuazione: approva o blocca un rimborso, assegna una priorità, decide se procedere da solo o passare la mano a una persona. Ogni decisione ha conseguenze. Ma nella maggior parte dei sistemi non lascia alcuna traccia strutturata: quando qualcosa va storto, non esiste un registro di cosa è stato deciso, perché, con quali dati e con quale supervisione.

È il problema che un registro delle decisioni AI risolve.

Cos'è un audit trail delle decisioni

Un audit trail è una traccia cronologica di ciò che un sistema ha fatto. Applicato alle decisioni di un agente, non registra le chiamate tecniche — quelle stanno nei log applicativi — ma gli eventi decisionali: il verdetto prodotto, i punteggi su cui si fonda, il modello che lo ha generato, il momento esatto.

La differenza rispetto a un normale log è la finalità. Un log serve al debugging; un registro serve alla responsabilità. Deve poter essere letto mesi dopo da chi non conosce il codice — un auditor, un legale, un manager — e raccontare cosa è successo.

Perché "immutabile" è la parola chiave

Un registro ha valore solo se non può essere riscritto a posteriori. Se i punteggi o il verdetto possono essere modificati dopo la decisione, la traccia non prova nulla: diventa una ricostruzione, non una registrazione.

Per questo un registro serio adotta il principio dello snapshot write-once: nel momento in cui l'agente produce un verdetto, quel verdetto viene congelato. Da lì in avanti si possono aggiungere informazioni — per esempio l'esito della supervisione umana — ma non riscrivere ciò che è già stato deciso.

Cosa deve contenere una voce di registro

Una voce utile per la compliance tiene insieme tre livelli:

La decisione — cosa è stato deciso, con quali punteggi e con quale livello di rischio.

La trasparenza (Art. 50) — se e quando la disclosure "questo verdetto è generato da IA" è stata effettivamente servita all'utente.

La supervisione umana (Art. 14) — se una persona ha rivisto la decisione e cosa ha deciso: confermare, correggere o rifiutare il verdetto.

Senza questi tre livelli, un registro racconta solo metà della storia.

Dal log tecnico al registro leggibile

La maggior parte delle piattaforme AI produce log tecnici: latenza, token, codici di errore. Utili per gli ingegneri, inutili per un auditor. Un registro delle decisioni fa il salto opposto: parte dall'evento decisionale e lo rende comprensibile a chi deve renderne conto.

Questo cambia anche la conversazione interna. Quando ogni decisione automatica è tracciata, "l'algoritmo ha sbagliato" smette di essere una scusa: si può vedere esattamente quale decisione, quando, e se qualcuno l'aveva supervisionata.

Come DAMM lo rende automatico

Il registro delle decisioni AI di DAMM si popola da solo dal livello API: ogni decisione prodotta da un agente genera una voce immutabile, con i punteggi dei quattro pilastri, il verdetto, la disclosure di trasparenza e lo spazio per la supervisione umana. L'intero registro è filtrabile ed esportabile per un audit.

Se stai costruendo agenti che agiscono in autonomia, il registro non è un accessorio: è ciò che trasforma l'automazione in responsabilità, ed è uno dei layer concreti per avvicinarsi ai requisiti dell'EU AI Act.