Quelle différence entre un chatbot, un RAG et un agent IA ? Le chatbot produit une réponse ; le RAG ajoute une recherche dans un corpus ; l’agent peut enchaîner des actions via des outils. Ces fonctions peuvent coexister. La capacité de citer un document ne prouve ni que le document est exact, ni que son destinataire a le droit de le consulter.
Évaluez séparément la recherche, la réponse et l’action. Une bonne citation peut accompagner une conclusion erronée ; une réponse correcte peut déclencher une opération interdite. Le dossier de validation doit donc montrer les passages utiles, les permissions appliquées et les refus attendus, avec des exemples dont la réponse reste inconnue ou volontairement inaccessible.
Dans ce dossier
IA générative · Agents · RAG · Évaluation · Sécurité des modèles · Gouvernance
Déployer une IA utile et maîtrisée
Comment évaluer un assistant IA ou un agent avant son déploiement ? Définissez une tâche, un corpus autorisé et des critères d’échec observables. Mesurez ensuite exactitude, qualité des sources, respect des accès, coût et temps de réponse sur des cas représentatifs. Le dossier de décision conserve les versions du modèle, des instructions et des documents. Il distingue la qualité d’une réponse de l’autorisation d’exécuter une action.
Lire le guideLe fil de veille
Toute la veille internationale →Titres en cache · actualisation des sources indisponible · Dernière récupération réussie : 22 oct. 2026, 21:24
Quand l’intelligence artificielle aide à mieux décider dans les filières alimentaires et les bioproduits - INRAE
via Google Actualités · agrégateurLe pari de Meta sur l’intelligence artificielle soulève des questions - Zonebourse Suisse
via Google Actualités · agrégateurIntelligence artificielle : à l’office de tourisme de Caen-la-Mer aussi, « c’est devenu un sujet » à prendre au sérieux - Ouest-France
via Google Actualités · agrégateurRéférences : données, usages et limites
Documentation consultée le .
| Source et objet | Donnée ou repère vérifié | Comment l’utiliser | Limite à conserver |
|---|---|---|---|
| MITRE ATLAS Examiner les tactiques, techniques et cas documentés visant des systèmes IA. |
Le dépôt officiel publie les données ATLAS : tactiques, techniques et études de cas. Ces éléments complètent une analyse du système réellement déployé. | Choisissez les scénarios correspondant aux données, interfaces et outils de votre application. Testez les permissions et les conséquences, pas seulement la réponse du modèle. | Un catalogue de techniques n’est pas une garantie de couverture exhaustive ni un résultat de test sur votre système. |
| NIST · AI Risk Management Framework Organiser la gestion des risques associés à l’IA. |
Le cœur de l’AI RMF s’articule autour de Govern, Map, Measure et Manage. Il s’agit d’un cadre volontaire de gestion du risque. | Définissez usage, personnes concernées et conséquences d’erreur. Rapprochez chaque risque d’une évaluation, d’un responsable et d’un moyen d’arrêt ou de reprise. | Le cadre ne certifie ni un modèle ni une application. Son utilisation ne dispense pas d’examiner les obligations applicables. |
| OWASP · LLM Top 10 Préparer des tests sur les risques des applications de modèles de langage. |
L’édition 2025 inclut notamment Prompt Injection, Sensitive Information Disclosure et Excessive Agency. | Traduisez un risque en scénario observable : document hostile, donnée réservée ou outil hors périmètre. Notez le comportement attendu et la preuve du refus. | Une liste de risques n’est pas une évaluation complète. Le filtrage des entrées ne démontre pas à lui seul l’autorisation de chaque action. |
RAG : droits, citations et caches
Le RAG ne délègue pas les permissions au modèle
Le corpus apporte des informations ; le service d’accès décide quels passages une identité peut recevoir. Distinguez la sélection pertinente, la permission sur l’objet et l’autorité d’agir après lecture.
- Couvrir recherche vectorielle, branche lexicale, citations et caches.
- Appliquer le retrait de droits aux conversations déjà ouvertes.
- Vérifier séparément qualité de réponse et absence de fuite.
Explorer la matrice de droits RAG et ses cas de test →
Références consultées le · OWASP · LLM08:2025 Vector and Embedding Weaknesses OWASP · API1:2023 Broken Object Level Authorization
OAuth/OIDC : audience et droits
Un agent IA conserve les frontières d’autorisation de chaque outil
Une instruction du modèle ne crée pas une délégation. Pour chaque outil, identifiez le client appelant, le serveur de ressources, l’audience et la politique sur les objets.
- Limiter les droits à l’opération et au destinataire utiles au cas d’usage.
- Ne pas transférer le jeton d’un outil à une autre API par simple commodité.
- Tester qu’un agent ne lit pas les objets d’un autre locataire malgré un scope de lecture.
Voir les destinataires et les dix scénarios OAuth/OIDC →
Sources vérifiées le · IETF · RFC 9700 · OAuth 2.0 Security BCP · IETF · RFC 9068 · JWT access token profile · OpenID Foundation · OpenID Connect Core 1.0 · IETF · RFC 8725 · JWT Best Current Practices · IETF · RFC 6749 · OAuth 2.0 framework
SSRF : URL et connexions
Un outil d’agent IA garde des sorties réseau bornées
Le texte produit par un modèle, un document récupéré ou un résultat de recherche ne doit pas élargir les destinations autorisées d’un outil. Définir le connecteur par opération et par service permet de contrôler ce qu’un agent peut réellement joindre.
- Reconstruire les requêtes à partir d’identifiants métier lorsque le service est connu.
- Contrôler résolution, connexion, proxy et chaque redirection au composant de sortie.
- Conserver une décision traçable et des limites de réponse, même après retry ou repli.
Lire les 12 cas et les contrôles de connexion →
Sources relues le · OWASP · SSRF Prevention Cheat Sheet · WHATWG · URL Living Standard · AWS EC2 · Instance metadata options · IETF · RFC 3849
IA : contrôler un résultat JSON
Le contrat d’extraction précède toute action d’agent
Un objet généré par IA reste une entrée à contrôler. Des types valides ne prouvent ni les valeurs du document, ni l’identité de l’acteur, ni son droit d’écrire dans le système cible.
- Valider avant de transmettre les champs au connecteur.
- Traiter unknown et les preuves absentes par une voie explicite de revue.
- Appliquer les contrôles de contexte et d’autorisation à chaque opération aval.
Comparer les 14 sorties et leur motif →
Sources relues le · IETF · RFC 8259 · JSON Schema · Object reference · JSON Schema · Draft 2020-12 validation · Python 3.12 · json decoder · python-jsonschema · Schema validation · OWASP · LLM05:2025 Improper Output Handling