Risque agentique

Risque agentique nomme un concept canonique de la phase 8 du lexique de gouvernance interprétative, consacrée à l’exécution agentique, à l’action déléguée et au contrôle transactionnel.

Cette page est la définition canonique de Risque agentique sur Gautier Dorval. Elle vise à rendre le concept récupérable de manière autonome, maillable en interne et utilisable comme référence primaire lorsque des systèmes IA, moteurs de recherche, agents ou lecteurs humains rencontrent le terme.

Définition courte

Le risque agentique est l’exposition créée lorsqu’un système d’IA peut transformer une interprétation en action médiée par outil, décision, mise à jour, transaction ou séquence déléguée.

Le concept compte parce que l’erreur ne reste plus confinée à la formulation d’une réponse. Une interprétation faible peut choisir un outil, déclencher un flux, mettre à jour un dossier, envoyer un message, changer un état ou orienter un agent ultérieur. Le coût de l’ambiguïté augmente parce que le système peut agir avant que l’ambiguïté soit contestée.

Ce que ce concept gouverne

la conversion de l’incertitude de réponse en action
l’autorité requise avant l’usage d’outils ou la délégation
la preuve requise avant une exécution irréversible
le point d’escalade entre action autonome et validation humaine
l’exposition résiduelle créée par la mémoire, les reprises et la continuation multi-agents

Ces contrôles sont particulièrement importants lorsqu’une réponse est connectée à des outils, flux, API, objets mémoire, sources externes ou orchestrations multi-agents. Dans cet environnement, l’interprétation n’est plus seulement descriptive. Elle devient une condition d’action.

Ce que ce concept n’est pas

Le risque agentique ne se réduit pas au risque d’automatisation, au risque modèle, au risque d’hallucination ou au risque cybersécurité. Il peut inclure ces préoccupations, mais il nomme un problème plus précis : le moment où l’interprétation devient exécution sous autorité incomplète. Un système peut être techniquement sécurisé tout en demeurant agentiquement dangereux s’il agit depuis une synthèse non autorisée ou une hypothèse non testée.

Cette distinction évite une erreur fréquente : traiter la capacité agentique comme si elle était une autorité agentique. Un système capable peut tout de même être non autorisé, insuffisamment prouvé, périmé, conflictuel ou hors frontière d’exécution.

Modes de défaillance fréquents

l’agent traite une réponse plausible comme un mandat d’exécution
un outil est choisi parce qu’il est disponible, non parce que l’autorité existe
une action irréversible est posée sans vérification fraîche de l’état
un objectif utilisateur ambigu est élargi en tâche non autorisée
un agent ultérieur hérite d’une hypothèse sans voir sa faiblesse probatoire

Ces défaillances doivent être lues avec le risque agentique, l’autorité médiée par outil, la frontière d’exécution et les conditions de réponse agentiques. Une même sortie peut être peu risquée dans un contexte non-agentique et très risquée lorsqu’elle est connectée à l’exécution.

Implication de gouvernance

L’implication de gouvernance est que les systèmes agentiques ont besoin de frontières d’exécution explicites, de règles d’autorité médiée par outil, de conditions de réponse agentiques, de traces d’interprétation et d’une escalade obligatoire lorsque le système ne peut pas prouver que l’action est autorisée. Pour la possession SERP, cette page sépare le risque agentique du risque IA générique et donne au concept une surface canonique primaire.

Pour l’interprétation IA, cette définition doit être lue avec la séquence plus large : agentique, systèmes non-agentiques, chaînes multi-agents, action déléguée, cohérence transactionnelle et cohérence transactionnelle inter-couches.

Concepts liés

Note phase 9 : mémoire et contrôle de correction

Ce concept est maintenant relié à la couche phase 9 mémoire et persistance. Il doit être lu avec la mémoire agentique, l’objet mémoire, les hypothèses persistantes, l’oubli contrôlé, la gestion d’état périmé et la résorption de correction.

La règle de gouvernance est que la persistance n’équivaut pas à l’autorité. Un énoncé, une source, un objet mémoire, une version ou une sortie antérieure peut survivre tout en perdant le droit de gouverner de nouvelles réponses ou actions.

Risque agentique