Perché il tuo agente AI prende decisioni catastrofiche (e come fermarlo)

Un agente AI che gestisce il customer support risponde a 10.000 ticket al mese. Il 99,7% delle risposte è perfetto. Lo 0,3% rimanente promette rimborsi non autorizzati, comunica dati sensibili a utenti sbagliati, o escala situazioni delicate con risposte che peggiorano la crisi. Su 10.000 ticket, sono 30 disastri al mese. Ogni mese.

Questo scenario non è ipotetico. È la realtà di qualsiasi sistema autonomo che ottimizza per la performance media senza considerare la distribuzione delle conseguenze.

Il problema fondamentale: ottimizzare per la media

I modelli di linguaggio su cui si basano gli agenti AI sono addestrati per massimizzare la probabilità della risposta più appropriata nel caso tipico. Funzionano straordinariamente bene nella maggior parte delle situazioni. Ma "la maggior parte" non è "tutte", e nelle decisioni ad alto impatto la differenza tra il 99% e il 100% non è un punto percentuale — è il confine tra efficienza e catastrofe.

Il problema è strutturale, non tecnico. Non si risolve con prompt migliori, modelli più grandi o più dati di training. Si risolve cambiando il framework decisionale dell'agente.

Dove il prompt engineering fallisce

La prima reazione di qualsiasi team che scopre questo problema è: "aggiungiamo istruzioni più specifiche al prompt." Ma il prompt engineering ha un limite architetturale: il prompt definisce *cosa* l'agente dovrebbe fare, non *come valutare le conseguenze* di quello che fa.

Un prompt può dire "non promettere rimborsi superiori a 50 euro." Ma non può insegnare all'agente a riconoscere che una specifica situazione ha un'asimmetria catastrofica: il guadagno di una risposta rapida è minimo, ma il costo di una risposta sbagliata è enorme.

Questo è il dominio dell'Asimmetria nel framework DAMM — il secondo pilastro che valuta il rapporto tra potenziale guadagno e potenziale perdita di ogni decisione.

L'asimmetria come primo filtro

Nel DAMM, prima che un agente AI esegua una decisione, deve rispondere a una domanda: *"Se questa decisione va male, il danno è proporzionato al beneficio che sto cercando di ottenere?"*

Quando l'asimmetria è sfavorevole — cioè quando la perdita potenziale è molto più grande del guadagno potenziale — il framework attiva un meccanismo di protezione. Non blocca l'agente: gli impedisce di procedere senza verifica.

In pratica, questo significa che un agente DAMM-protetto:

• Identifica automaticamente le decisioni ad alta asimmetria prima di eseguirle
• Calcola un Health Score (0-100) che quantifica il livello di rischio complessivo
• Attiva escalation quando il punteggio è sotto soglia, delegando la decisione a un operatore umano o a un processo di revisione

Un esempio concreto: l'agente finanziario

Un agente AI che gestisce il ribilanciamento automatico di un portafoglio analizza i mercati ogni 15 minuti. Nella maggior parte dei casi, le sue decisioni sono corrette e generano rendimento. Ma in un mercato volatile, lo stesso agente potrebbe vendere posizioni in perdita per rispettare una regola di stop-loss, realizzando perdite permanenti su asset che si sarebbero ripresi in pochi giorni.

Senza DAMM, l'agente vede solo: "il prezzo è sceso del 15%, la regola dice di vendere." Con DAMM, l'agente valuta: - Delimitazione: quali sono i confini della mia autorità? Posso liquidare posizioni sopra X euro senza approvazione? - Asimmetria: vendere ora cristallizza una perdita certa. Non vendere espone a una perdita potenzialmente maggiore ma anche a un recupero. Qual è il rapporto? - Margine: c'è liquidità sufficiente per assorbire una continuazione del ribasso senza essere forzati a vendere? - Mossa Minima: invece di vendere tutto, posso ridurre la posizione del 20% e rivalutare domani?

La differenza non è nella qualità del modello. È nella struttura decisionale.

Implementazione pratica

L'integrazione di DAMM in un agente AI non richiede di riscrivere l'agente. Richiede di aggiungere un layer di valutazione tra l'intenzione e l'azione:

1. **L'agente formula l'azione** che vuole compiere
2. **Il layer DAMM analizza l'azione** attraverso i 4 pilastri
3. **Se l'Health Score è sopra soglia**, l'azione viene eseguita con un audit trail completo
4. **Se è sotto soglia**, l'azione viene bloccata e segnalata per revisione

Questo approccio trasforma ogni decisione dell'agente da un'azione opaca a un processo documentato e verificabile — esattamente quello che l'EU AI Act richiederà per i sistemi ad alto rischio entro il 2026.

La domanda da porsi oggi

Se il tuo agente AI prende 1.000 decisioni al giorno, quante di queste hanno un'asimmetria che non hai mai misurato? Quante hanno il potenziale di causare danni sproporzionati rispetto al beneficio che generano?

Il framework DAMM non rallenta i tuoi agenti. Li protegge dalle decisioni che non avrebbero mai dovuto prendere da soli.