Risorse · 03
Governance degli agenti AI: una guida alla prontezza per la produzione
Definire autorizzazioni, dati, test, supervisione e arresto prima che un agente venga autorizzato a gestire un processo aziendale.
Aggiornato · 3 min
Obiettivi di questa guida
- Limitare l'agente a ciò che è necessario.
- Testare i guasti costosi prima della produzione.
- Conservare tracce utili senza accumulare dati eccessivi.
- Mantenere un'efficace responsabilità umana.
Verifica rapida
- L'agente può innescare un'azione irreversibile?
- I dati inviati sono autorizzati?
- Una soglia richiede l'approvazione umana?
- Gli strumenti hanno autorizzazioni minime?
- Il sistema può arrestarsi e ripristinare rapidamente le impostazioni?
Metodo passo passo
- 1
Descrivere il sistema attuale
Documentare scopo, utenti, input, modelli, strumenti, output, dipendenze e persone interessate.
Risultato: scheda di sistema versionata.
- 2
Classificare azioni e dati
Separare le fasi di lettura, raccomandazione, stesura ed esecuzione. Identificare i dati proibiti, sensibili, personali e conservati.
Risultato: matrice dati × azione.
- 3
Ridurre le autorizzazioni
Utilizzare account dedicati, liste di strumenti consentiti, ambienti isolati e approvazione prima di azioni ad alto impatto.
Risultato: policy di autorizzazione.
- 4
Creare valutazioni
Testare casi normali, ambiguità, iniezione, dati mancanti, richieste fuori ambito ed errori irreversibili. Impostare le soglie prima del progetto pilota.
Risultato: set di test e risultati.
- 5
Monitoraggio della produzione
Registrazione della versione del sistema, del contesto necessario, delle chiamate agli strumenti, delle approvazioni e dei risultati, riducendo al minimo i dati conservati.
Risultato: dashboard di monitoraggio e avvisi.
- 6
Preparazione ai guasti
Definizione dei criteri di arresto, subentro manuale, notifica, analisi degli incidenti e ripristino del servizio.
Risultato: manuale operativo per la gestione degli incidenti basato sull'intelligenza artificiale.
Esempio pratico fittizio
Situazione illustrativa
Un agente può leggere le richieste dei clienti e redigere una risposta, ma non può inviare un messaggio o modificare un account senza approvazione. Il test include un documento sorgente che tenta di reindirizzare le istruzioni.
Decisione e prove attese
Il registro definisce gli strumenti consentiti, i dati visibili, le soglie di escalation, i log necessari e il punto in cui interviene un operatore umano.
Indicatori di gestione
| Indicatore | Cosa misura | Prima azione |
|---|---|---|
| Tasso di successo utile | Attività corrette in base a un criterio aziendale, non solo risposte plausibili | Revisione dei fallimenti per famiglia di casi |
| Escalation umana | Casi correttamente assegnati a una persona | Regolazione delle soglie quando l'agente è troppo sicuro di sé |
| Azioni annullate | Azioni bloccate o recuperate prima dell'impatto | Individuazione di autorizzazioni eccessive e scenari non testati |
| Deriva | Differenze di prestazioni per versione, dati o popolazione | Confronto con un set stabile ad ogni modifica |
Errori comuni
- Misurazione della sola qualità della scrittura
- Assegnazione all'agente di tutti i diritti di un utente finale
- Mantenimento di ogni conversazione per impostazione predefinita
- Modifica del modello o del prompt senza rieseguire le valutazioni
Domande frequenti
In che modo un agente IA si differenzia da un chatbot?
Un agente pianifica o concatena azioni e può richiamare strumenti. Tale potere richiede autorizzazioni, approvazioni, tracciabilità e controlli di arresto più rigorosi.
È sempre necessaria l'approvazione umana?
È particolarmente importante quando un'azione è irreversibile, sensibile, regolamentata, di natura finanziaria o difficile da rilevare in seguito. Il livello di approvazione dovrebbe essere commisurato al rischio.
Cosa deve essere registrato?
Versione del sistema, contesto strettamente necessario, richiami di strumenti, approvazioni, esito ed errori, con un periodo di conservazione giustificato.
Riferimenti ufficiali
I riferimenti supportano il metodo. Adattare i controlli al proprio contesto; non costituiscono una certificazione. I titoli dei riferimenti originali e i documenti di origine potrebbero essere in un'altra lingua.
