AI Agent Guardrails: oltre il prompt engineering

C'è una convinzione diffusa nel mondo degli agenti AI: se il prompt è abbastanza dettagliato, l'agente si comporterà in modo sicuro. È una convinzione pericolosa perché contiene un fondo di verità — un buon prompt migliora effettivamente il comportamento — ma ignora un problema architetturale fondamentale.

Il prompt dice all'agente *cosa* fare. Non gli insegna *come valutare* se quello che sta per fare è sicuro.

I limiti architetturali del prompt

Un prompt è un insieme di istruzioni statiche. Non importa quanto sia sofisticato: non può coprire ogni combinazione possibile di contesto, stato e conseguenze. Il mondo reale è combinatorio, il prompt è lineare.

Consideriamo un agente che gestisce le risorse umane. Il prompt dice: "Non prendere decisioni disciplinari senza approvazione del manager." Sembra sicuro. Ma cosa succede quando: - L'agente riceve una segnalazione di molestie che richiede azione immediata? - Il manager è in ferie e non risponde? - La segnalazione riguarda il manager stesso?

Il prompt non ha previsto nessuna di queste combinazioni. L'agente deve improvvisare — e quando un agente AI improvvisa su decisioni ad alto impatto, il rischio è incontrollabile.

Guardrail strutturali vs. guardrail testuali

La differenza tra un guardrail testuale (prompt) e un guardrail strutturale (DAMM) è la stessa differenza tra dire a qualcuno "stai attento" e installare un parapetto. Entrambi riducono il rischio. Ma solo uno funziona anche quando la persona non sta prestando attenzione.

Un guardrail strutturale DAMM funziona così:

1. Delimitazione automatica: l'agente ha confini operativi codificati, non suggeriti. Non può prendere decisioni che eccedono la sua autorità, indipendentemente dal contesto. Se il boundary dice "massimo 5.000 euro di spesa autonoma", non esiste prompt injection o edge case che possa superare quel limite.

2. Valutazione dell'asimmetria: prima di ogni azione, l'agente calcola il rapporto guadagno/perdita. Se la perdita potenziale è 10x il guadagno, l'azione viene automaticamente classificata come "ad alta asimmetria" e richiede verifica.

3. Controllo del margine: l'agente verifica se esiste uno spazio di manovra sufficiente per correggere l'azione se va male. Nessun margine = nessuna azione autonoma.

4. Mossa Minima: se l'azione supera i primi tre filtri, l'agente identifica la versione più piccola e reversibile dell'azione che produce comunque un risultato utile.

Caso d'uso: agente legale

Un agente AI che analizza contratti per uno studio legale deve decidere se una clausola è accettabile o richiede negoziazione. Con il solo prompt engineering, l'agente ha una lista di clausole problematiche e linee guida generali. Funziona nel 95% dei casi.

Nel 5% rimanente — clausole ambigue, giurisdizioni insolite, interazioni tra clausole — l'agente prende decisioni che un avvocato junior non prenderebbe mai, perché manca il giudizio contestuale che nessun prompt può codificare.

Con DAMM integrato: - Delimitazione: l'agente può approvare clausole standard, ma non clausole che limitano la responsabilità sotto una certa soglia o che coinvolgono giurisdizioni non previamente validate - Asimmetria: se la clausola potrebbe esporre il cliente a responsabilità illimitata (asimmetria estrema), l'agente non può approvarla, indipendentemente da quanto sembra "standard" - Margine: l'agente verifica se c'è tempo sufficiente nel negoziato per correggere un'eventuale approvazione errata - Mossa Minima: invece di approvare o rifiutare, l'agente propone una clausola modificata che riduce il rischio senza bloccare la negoziazione

Il pattern "layer, non sostituzione"

L'aspetto più importante di DAMM come guardrail per agenti AI è che non sostituisce il prompt engineering — lo completa. Il prompt definisce la competenza dell'agente. DAMM definisce i limiti della sua autonomia.

Questo significa che l'implementazione non richiede di riscrivere l'agente o cambiare il modello. DAMM si inserisce come middleware tra l'intenzione dell'agente e l'esecuzione:

``` Agente → Formula azione → DAMM Layer → [Valutazione 4 pilastri] ↓ Health Score ≥ 60 → Esegui con audit trail Health Score < 60 → Escalation + blocco ```

Ogni decisione genera un report strutturato che documenta: cosa l'agente voleva fare, come il DAMM ha valutato l'azione, perché è stata approvata o bloccata. Questo crea un audit trail nativo che risponde ai requisiti dell'EU AI Act per la tracciabilità delle decisioni automatiche.

Tre settori dove i guardrail strutturali sono urgenti

Finanza: agenti che eseguono trading, gestiscono il credito, o analizzano il rischio. La velocità delle decisioni rende impossibile la supervisione umana in tempo reale. DAMM fornisce il layer di protezione che opera alla stessa velocità dell'agente.

Sanità: agenti che triano pazienti, suggeriscono diagnosi, o gestiscono appuntamenti. Una decisione sbagliata non è un inconveniente — è un rischio per la vita. La Delimitazione impedisce all'agente di operare fuori dal suo ambito clinico validato.

HR e compliance: agenti che gestiscono assunzioni, valutazioni, o segnalazioni. Le decisioni hanno implicazioni legali e umane che nessun prompt può valutare completamente. L'Asimmetria identifica le decisioni dove il costo dell'errore è sproporzionato.

Da prompt engineer a decision architect

Il passaggio dai guardrail testuali a quelli strutturali non è un aggiornamento tecnico. È un cambio di paradigma nel modo in cui progettiamo i sistemi autonomi. Il prompt engineer definisce *cosa l'agente sa fare*. Il decision architect definisce *cosa l'agente può decidere di fare*.

DAMM è lo strumento che rende possibile questa transizione — senza rallentare l'agente, senza riscrivere il codice, senza rinunciare all'autonomia. Aggiungendo la struttura che mancava.