Ressources · 67
Agents IA : autoriser une action et vérifier son effet
Relier l’accord humain à une opération précise, limiter sa durée et traiter les effets déjà exécutés.
· 4 min
Ce que ce guide permet
- Définir l’action exacte
- Lier l’accord aux paramètres
- Empêcher le réemploi
- Vérifier l’effet et la reprise
- Limiter chaque délégation
- Prouver la révocation et l’arrêt
Contrôle express
- Les paramètres exécutés correspondent-ils à ceux approuvés ?
- Les accords expirés ou rejoués sont-ils refusés ?
- Un effet externe reste-t-il à réconcilier après arrêt ?
Méthode pas à pas
- 01
Définir l’action exacte
Décrivez l’objet, le destinataire, le montant ou le contenu et les effets externes. Classez chaque opération selon son risque et sa réversibilité. Un accord pour rédiger un message ne couvre pas son envoi.
Livrable : registre des opérations et limites.
- 02
Lier l’accord aux paramètres
Présentez à la personne les paramètres décisifs et la portée de l’accord. Vérifiez côté service que l’identité et les droits permettent cette opération. Toute modification importante doit déclencher une nouvelle décision.
Livrable : contrat d’autorisation par action.
- 03
Empêcher le réemploi
Définissez une expiration, un identifiant d’opération et une protection contre la répétition. Rejouez un accord ancien, une cible modifiée et deux exécutions concurrentes dans un environnement de test. Le texte du modèle ne doit pas créer lui-même un droit.
Livrable : résultats des tests négatifs.
- 04
Vérifier l’effet et la reprise
Rapprochez le résultat du service externe de l’état affiché. Si la réponse manque, vérifiez avant de recommencer. Documentez les effets déjà produits et les compensations possibles ; arrêter l’agent n’annule pas un email livré.
Livrable : chronologie et procédure de reprise.
- 05
Limiter chaque délégation
Associez chaque travailleur à une identité et à un périmètre vérifiable : outil, ressource, opération et budget. Une sous-tâche ne doit pas hériter automatiquement de tous les droits du parent. Faites contrôler les paramètres juste avant l’effet externe, et refusez une version de politique ou une approbation devenue invalide.
Matrice de délégation et décisions au point d’exécution.
- 06
Prouver la révocation et l’arrêt
Testez la révocation pendant qu’une action attend ou s’exécute. Distinguez arrêt des nouvelles opérations, invalidation des droits et effets déjà produits. Conservez identifiant d’opération, décision, version de politique et confirmation externe sans recopier secrets ni prompts sensibles. Si une preuve requise manque, suspendez les actions concernées.
Chronologie de révocation et état confirmé des effets.
Cas de recette à reproduire
Exemple fictif : ces données ne décrivent aucun client ni résultat réel.
Voir les données du cas
{
"approved": {
"target": "A",
"amount": 100
},
"execution": {
"target": "B",
"amount": 100
}
}Décision attendue
La cible a changé : invalider l’accord précédent et faire autoriser l’opération exacte avant exécution. Dans l’essai, conserver côte à côte la cible A autorisée et la cible B préparée. Contrôler les paramètres significatifs au moment de l’exécution, puis refaire autoriser la version exacte si elle change. Une connexion valide et un montant inchangé ne transfèrent pas l’accord vers un autre destinataire.
Procédure de vérification
- Relevez cible, montant et expiration de l’accord.
- Changez la cible dans un test autorisé.
- Conservez le refus et la nouvelle autorisation liée aux paramètres.
- Lancez deux travailleurs fictifs demandant la même opération sensible et observez le contrôle commun au point d’exécution.
- Révoquez un droit dans un test autorisé avant la prochaine action ; vérifiez refus, message utilisateur et absence de nouvel effet.
- Rapprochez décision, version de politique et état externe, puis vérifiez que les journaux ne contiennent aucun secret.
Fiche de travail à réutiliser
À compléter avec vos observations autorisées. Ces champs constituent une trame de travail, pas des résultats observés.
| Champ | Information à consigner |
|---|---|
| Opération | Objet, paramètres approuvés et effets externes |
| Accord | Identité, portée, expiration et identifiant |
| Reprise | État externe, compensation et responsable |
Agents IA : contrôler délégation, révocation et preuves
Point documentaire du 12 octobre 2026 : le projet OWASP GenAI a annoncé en septembre son Top 10 LLM 2026 et l’Agent Control Standard. Un billet du 8 octobre rassemble des signalements du troisième trimestre ; il se décrit comme non exhaustif et non comme une publication officielle OWASP. Ces repères orientent la recette, sans valider à eux seuls un agent ni prouver la fréquence des attaques.
Exemple d’application
Situation illustrative
Exemple fictif : un agent prépare une remise pour un compte de test, puis change son montant après accord.
Décision et preuve attendue
Le service refuse l’autorisation devenue inadaptée. L’équipe teste aussi la répétition et vérifie séparément les effets d’une interruption.
Distinguer les mécanismes
| Mécanisme | Utilité | Point de vigilance |
|---|---|---|
| Validation d’une proposition | Relire un plan ou un brouillon | Ne prouve pas l’autorisation d’un effet externe |
| Autorisation d’une opération | Approuver des paramètres déterminés | Expire et ne couvre pas une opération modifiée |
Indicateurs de pilotage
| Indicateur | Ce qu’il mesure | Première action |
|---|---|---|
| Accords périmés refusés | Résultats des cas de réemploi | Examiner chaque acceptation inattendue |
| Effets réconciliés | Opérations reliées à un état externe confirmé | Traiter les résultats incertains avant répétition |
| Délégations contrôlées | Sous-tâches avec identité, portée et décision conservées / sous-tâches examinées | Distinguer droit absent et preuve manquante |
| Actions après révocation | Nouveaux effets acceptés après invalidation confirmée | Séparer opérations déjà engagées et défaut de révocation |
Erreurs fréquentes
- Accorder une autorisation sans afficher la cible
- Confondre arrêt du processus et annulation des effets
Questions fréquentes
Un bouton Stop annule-t-il toutes les actions ?
Il peut interrompre de nouvelles actions. Les effets déjà exécutés exigent une vérification et, si possible, une compensation distincte.
Une permission générale suffit-elle ?
Le service doit encore vérifier l’identité, l’objet et l’opération. Les actions sensibles peuvent nécessiter une approbation liée aux paramètres.
Que faire après un délai dépassé ?
Traiter le résultat comme incertain et rechercher l’état externe avant de réessayer, afin d’éviter un effet dupliqué.
Une permission du parent couvre-t-elle toutes les sous-tâches ?
Non. Définissez les droits de chaque acteur et vérifiez la délégation au service qui réalise l’action. Une instruction de l’agent ne crée pas une autorisation.
Le billet d’incidents mesure-t-il le risque de mon système ?
Non. Son périmètre et ses signalements ne constituent pas un taux d’attaque. Utilisez-le pour choisir des scénarios, puis collectez des preuves sur votre propre configuration.
Références officielles
Date de consultation des références : . La méthode et la fiche de travail proposent des contrôles à adapter à votre contexte ; elles ne constituent pas une certification.
