Risorse · 03
Governance degli agenti AI: una guida alla prontezza per la produzione
Definire autorizzazioni, dati, test, supervisione e arresto prima che un agente venga autorizzato a gestire un processo aziendale.
Aggiornato · 5 min
Obiettivi di questa guida
- Limitare l'agente a ciò che è necessario.
- Testare i guasti costosi prima della produzione.
- Conservare tracce utili senza accumulare dati eccessivi.
- Mantenere un'efficace responsabilità umana.
Verifica rapida
- L'agente può innescare un'azione irreversibile?
- I dati inviati sono autorizzati?
- Una soglia richiede l'approvazione umana?
- Gli strumenti hanno autorizzazioni minime?
- Il sistema può arrestarsi e ripristinare rapidamente le impostazioni?
Metodo passo passo
- 1
Descrivere il sistema attuale
Documentare scopo, utenti, input, modelli, strumenti, output, dipendenze e persone interessate.
Risultato: scheda di sistema versionata.
- 2
Classificare azioni e dati
Separare le fasi di lettura, raccomandazione, stesura ed esecuzione. Identificare i dati proibiti, sensibili, personali e conservati.
Risultato: matrice dati × azione.
- 3
Ridurre le autorizzazioni
Utilizzare account dedicati, liste di strumenti consentiti, ambienti isolati e approvazione prima di azioni ad alto impatto.
Risultato: policy di autorizzazione.
- 4
Creare valutazioni
Testare casi normali, ambiguità, iniezione, dati mancanti, richieste fuori ambito ed errori irreversibili. Impostare le soglie prima del progetto pilota.
Risultato: set di test e risultati.
- 5
Monitoraggio della produzione
Registrazione della versione del sistema, del contesto necessario, delle chiamate agli strumenti, delle approvazioni e dei risultati, riducendo al minimo i dati conservati.
Risultato: dashboard di monitoraggio e avvisi.
- 6
Preparazione ai guasti
Definizione dei criteri di arresto, subentro manuale, notifica, analisi degli incidenti e ripristino del servizio.
Risultato: manuale operativo per la gestione degli incidenti basato sull'intelligenza artificiale.
Dalla proposta all’azione: dove verificare i permessi?
Un agente può preparare una richiesta senza poterla eseguire. Il servizio esecutore deve verificare identità, risorsa e parametri effettivi; una dichiarazione del modello non dimostra l’approvazione.
Esercizio fittizio: una regola interna richiede l’approvazione delle risposte ai clienti. I casi illustrano questa regola; non verificano né certificano il vostro sistema.
- Dati ricevuti
Un documento offre contesto, senza concedere nuovi permessi.
- Azione proposta
L’agente prepara strumento, destinazione e parametri da esaminare.
- Controllo indipendente
Il servizio esecutore verifica permessi e approvazione legata a quell’azione.
- Esito osservato
Un registro collega la richiesta univoca all’esito reale, incluso un errore.
Quattro casi da provare
Il destinatario è cambiato
L’anteprima approvata indicava un indirizzo interno; la chiamata finale uno esterno.
Decisione attesa
Sospendere l’invio e far esaminare la nuova destinazione.
Evidenza da cercare
Confrontare destinatario, contenuto e allegati dell’anteprima e della chiamata.
Lo spazio cliente sbagliato
L’account può leggere la pratica A; l’agente richiede un file della B.
Decisione attesa
Negare l’accesso a B anche se il modello lo ritiene necessario.
Evidenza da cercare
Verificare la risorsa esatta con l’identità dell’utente.
Approvazione scaduta
L’azione coincide con l’anteprima, ma l’approvazione è scaduta.
Decisione attesa
Ottenere una nuova approvazione e ricontrollare i permessi attuali.
Evidenza da cercare
Conservare scadenza, identità del revisore e parametri approvati.
Tempo di attesa scaduto
L’invio non risponde; non si sa se sia avvenuto.
Decisione attesa
Controllare lo stato dell’operazione prima di riprovare.
Evidenza da cercare
Legare la chiave di idempotenza allo stesso contenuto e confrontare la ricevuta.
Riferimenti : OWASP · LLM06:2025 Excessive Agency · OWASP · AI Agent Security Cheat Sheet
Esempio pratico fittizio
Situazione illustrativa
Un agente può leggere le richieste dei clienti e redigere una risposta, ma non può inviare un messaggio o modificare un account senza approvazione. Il test include un documento sorgente che tenta di reindirizzare le istruzioni.
Decisione e prove attese
Il registro definisce gli strumenti consentiti, i dati visibili, le soglie di escalation, i log necessari e il punto in cui interviene un operatore umano.
Indicatori di gestione
| Indicatore | Cosa misura | Prima azione |
|---|---|---|
| Tasso di successo utile | Attività corrette in base a un criterio aziendale, non solo risposte plausibili | Revisione dei fallimenti per famiglia di casi |
| Escalation umana | Casi correttamente assegnati a una persona | Regolazione delle soglie quando l'agente è troppo sicuro di sé |
| Azioni annullate | Azioni bloccate o recuperate prima dell'impatto | Individuazione di autorizzazioni eccessive e scenari non testati |
| Deriva | Differenze di prestazioni per versione, dati o popolazione | Confronto con un set stabile ad ogni modifica |
Errori comuni
- Misurazione della sola qualità della scrittura
- Assegnazione all'agente di tutti i diritti di un utente finale
- Mantenimento di ogni conversazione per impostazione predefinita
- Modifica del modello o del prompt senza rieseguire le valutazioni
Domande frequenti
In che modo un agente IA si differenzia da un chatbot?
Un agente pianifica o concatena azioni e può richiamare strumenti. Tale potere richiede autorizzazioni, approvazioni, tracciabilità e controlli di arresto più rigorosi.
È sempre necessaria l'approvazione umana?
È particolarmente importante quando un'azione è irreversibile, sensibile, regolamentata, di natura finanziaria o difficile da rilevare in seguito. Il livello di approvazione dovrebbe essere commisurato al rischio.
Cosa deve essere registrato?
Versione del sistema, contesto strettamente necessario, richiami di strumenti, approvazioni, esito ed errori, con un periodo di conservazione giustificato.
Riferimenti: dati, usi e limiti
Documentazione consultata il .
Le note dettagliate di questa edizione sono disponibili in inglese.
| Fonte e finalità | Dato o riferimento verificato | Come utilizzarlo | Limite da conservare |
|---|---|---|---|
| MITRE ATLAS Examine documented tactics, techniques and cases involving AI systems. |
The official repository publishes ATLAS tactics, techniques and case-study data. They support analysis of the actual deployed system. | Select scenarios matching your application’s data, interfaces and tools. Test permissions and consequences, not only model responses. | A technique catalogue is neither an exhaustive coverage guarantee nor a test result for your system. |
| NIST · AI Risk Management Framework Organise management of AI-related risks. |
The AI RMF Core is organised around Govern, Map, Measure and Manage. It is a voluntary risk-management framework. | Define intended use, affected people and error consequences. Connect each risk to an evaluation, owner and stop or recovery mechanism. | The framework certifies neither a model nor an application. Using it does not remove the need to examine applicable requirements. |
| OWASP · LLM Top 10 Prepare tests for language-model application risks. |
The 2025 edition includes Prompt Injection, Sensitive Information Disclosure and Excessive Agency. | Turn a risk into an observable scenario: hostile document, restricted data or out-of-scope tool. Record expected behaviour and evidence of refusal. | A risk list is not a complete assessment. Input filtering alone does not establish authorisation for every action. |
RAG: diritti, citazioni e cache
Le note dettagliate di questa edizione sono disponibili in inglese.
Describe the authority of every agent tool
A tool’s authority depends on identity, objects and permitted operations. A document source, including an internal one, cannot expand that scope. The agent should accomplish the legitimate task with limited rights.
- Build an identity, object and operation matrix.
- Verify connector denials and absence of effects.
- Replay positive controls after each restriction.
Explore the RAG access matrix and replay cases →
References consulted on · OWASP · LLM06:2025 Excessive Agency OWASP · API1:2023 Broken Object Level Authorization NIST AI 100-2 E2025 · Adversarial Machine Learning
OAuth/OIDC: destinatari e accesso
Le note dettagliate di questa edizione sono disponibili in inglese.
An AI agent retains each tool’s authorisation boundaries
A model instruction does not create a grant. For every tool, identify the calling client, resource server, audience and object policy.
- Restrict permissions to the operation and recipient needed for the use case.
- Do not forward one tool’s token to another API merely for convenience.
- Test that an agent cannot read another tenant’s objects despite having a read scope.
See token recipients and the ten OAuth/OIDC cases →
Sources reviewed on · IETF · RFC 9700 · OAuth 2.0 Security BCP · IETF · RFC 9068 · JWT access token profile · OpenID Foundation · OpenID Connect Core 1.0 · IETF · RFC 8725 · JWT Best Current Practices · IETF · RFC 6749 · OAuth 2.0 framework
SSRF: URL e connessioni
Le note dettagliate di questa edizione sono disponibili in inglese.
An AI agent tool keeps bounded network access
Text produced by a model, retrieved document or search result must not expand an allowed tool destination. Defining the connector by operation and service makes the agent’s actual network reach controllable.
- Reconstruct requests from business identifiers when the service is known.
- Enforce resolution, connection, proxy and each redirect at the egress component.
- Keep a traceable decision and response limits, including after retry or fallback.
Read the 12 cases and connection controls →
Sources reviewed on · OWASP · SSRF Prevention Cheat Sheet · WHATWG · URL Living Standard · AWS EC2 · Instance metadata options · IETF · RFC 3849
Riferimenti ufficiali
I riferimenti supportano il metodo. Adattare i controlli al proprio contesto; non costituiscono una certificazione. I titoli dei riferimenti originali e i documenti di origine potrebbero essere in un'altra lingua.
Riferimenti consultati il .
- NIST — AI Risk Management Framework
- NIST — Generative AI Profile
- OWASP · LLM06:2025 Excessive Agency
- OWASP · AI Agent Security Cheat Sheet
- MITRE ATLAS
- OWASP · LLM Top 10
- OWASP · API1:2023 Broken Object Level Authorization
- NIST AI 100-2 E2025 · Adversarial Machine Learning
- IETF · RFC 9700 · OAuth 2.0 Security BCP
- IETF · RFC 9068 · JWT access token profile
- OpenID Foundation · OpenID Connect Core 1.0
- IETF · RFC 8725 · JWT Best Current Practices
- IETF · RFC 6749 · OAuth 2.0 framework
- OWASP · SSRF Prevention Cheat Sheet
- WHATWG · URL Living Standard
- AWS EC2 · Instance metadata options
- IETF · RFC 3849
