Articolo 12 EU AI Act: la conservazione dei log e cosa significa per gli agenti AI

Nel dibattito sull'EU AI Act l'attenzione va quasi sempre a due articoli: il 14 (supervisione umana) e il 50 (trasparenza). Ma ce n'è un terzo, meno citato e altrettanto operativo, che riguarda direttamente chi costruisce agenti: l'Articolo 12 — conservazione dei log (record-keeping).

Cosa dice, in pratica

L'Articolo 12 stabilisce che i sistemi di IA ad alto rischio devono consentire la registrazione automatica degli eventi ("logs") lungo il loro ciclo di vita, con un livello di tracciabilità adeguato alla finalità del sistema. L'obiettivo è permettere di ricostruire il funzionamento del sistema, identificare situazioni di rischio e supportare i controlli successivi.

In altre parole: non basta che il sistema funzioni. Deve poter dimostrare cosa ha fatto.

Perché per gli agenti è più difficile

Per un software deterministico il logging è banale: ogni ramo del codice è prevedibile. Per un agente basato su un modello di linguaggio no. L'output non è riconducibile a una regola esplicita, e il rischio è di registrare i dati tecnici — prompt, token — senza registrare ciò che conta davvero: la decisione e il suo fondamento.

Un log che dice "chiamata al modello, 3.200 token, 200 OK" è inutile per un auditor. Quello che serve è: quale decisione è stata presa, su quali dimensioni di rischio, con quale verdetto, e se un umano l'ha supervisionata.

Cosa deve catturare un record conforme

Tradotto in requisiti concreti, un record utile per l'Articolo 12 dovrebbe contenere almeno:

Identificazione — quale decisione, quando, prodotta da quale sistema e modello.

Contenuto della decisione — il verdetto e i punteggi che lo sostengono.

Rischio — il livello di rischio associato alla decisione.

Conservazione — il record deve sopravvivere nel tempo, anche se il dato originario viene modificato o cancellato.

Quest'ultimo punto è spesso trascurato: se il registro punta solo alla riga "viva" del database, una cancellazione fa sparire la prova. Un registro serio conserva uno snapshot autonomo.

Dalla teoria a un layer concreto

Il registro delle decisioni AI di DAMM è pensato attorno a questa logica: ogni decisione prodotta via agente genera uno snapshot immutabile e denormalizzato — che resta valido anche se la decisione originale viene rimossa — con verdetto, punteggi, livello di rischio, disclosure di trasparenza e stato della supervisione umana. È interrogabile via API ed esportabile in CSV.

L'Articolo 12 non chiede di rendere l'agente "spiegabile" in senso assoluto — un problema ancora aperto nella ricerca. Chiede una cosa più semplice e più esigibile: che ogni decisione lasci un record conservabile. È esattamente ciò che un registro delle decisioni fornisce, e uno dei modi più diretti per avvicinarsi ai requisiti dell'EU AI Act.