Sécurité des agents IA : permissions, outils, et non-réponse légitime
Cette page clarifie la sécurité des agents IA comme un problème de permissions et d’outillage, et explicite pourquoi la non-réponse légitime est une propriété de sécurité, pas une faiblesse.
Un agent IA n’est pas seulement un modèle qui répond. C’est un système qui peut agir : appeler des outils, lire des sources, écrire, exécuter des opérations, persister de la mémoire, et enchaîner des décisions. Cette capacité transforme le risque : une erreur n’est plus uniquement une phrase incorrecte, elle peut devenir une action incorrecte.
Dans un web interprété, les agents sont exposés à des contenus, des outils et des signaux d’autorité hétérogènes. La sécurité ne se réduit pas à « éviter les injections ». Elle dépend de la manière dont l’agent distingue ce qui peut instruire, ce qui peut informer, ce qui peut autoriser, et ce qui peut exécuter.
Statut de cette page
Cette page est une clarification interprétative.
Elle fixe un cadre de lecture interne : la sécurité des agents est décrite ici en termes de bornage d’autorité, de permissions et de capacité d’abstention. Elle ne constitue pas une procédure de pentest ni un guide d’exploitation.
Définition opératoire
Sécurité des agents IA : capacité d’un agent à opérer dans un environnement ouvert (Web, documents, outils, systèmes) sans exécuter d’actions, d’appels d’outils ou de décisions qui dépassent son périmètre d’autorité, ses permissions explicites et ses règles de gouvernance.
Permissions : le périmètre réel de l’agent
La surface de risque d’un agent est fonction de ses permissions. Une permission n’est pas un détail technique, c’est une déclaration d’autorité opérationnelle.
À stabiliser explicitement :
- Lecture : quelles sources l’agent peut consulter, et sous quelles conditions.
- Écriture : où l’agent peut écrire (fichiers, CRM, CMS, tickets) et avec quelle traçabilité.
- Exécution : quelles actions sont possibles (scripts, API, commandes) et quels garde-fous s’appliquent.
- Persistance : ce qui peut être mémorisé, consolidé, ou réutilisé comme règle implicite.
Outils : la chaîne d’action
Les outils (API, connecteurs, navigateurs, scrapers, automations) introduisent une propriété critique : ils transforment des sorties textuelles en effets réels. Un agent sécurisé doit donc borner :
- ce que l’outil retourne et comment c’est interprété (donnée vs instruction)
- ce que l’agent a le droit de demander à l’outil
- quand un appel d’outil est interdit, même s’il semble « utile ».
Non-réponse légitime : propriété de sécurité
Dans un contexte agentique, « ne pas répondre » peut être la décision correcte. Une non-réponse est légitime lorsque répondre ou agir impliquerait :
- d’inférer une permission non donnée
- d’exécuter une action sans autorité explicite
- de stabiliser une interprétation sur une source non canonique ou non vérifiée
- de transformer une incertitude en décision (effet de fermeture).
Dans ce cadre, la non-réponse n’est pas un manque. C’est un mécanisme de contrôle qui empêche la dérive d’autorité.
Menaces dominantes en contexte agentique
- Confusion instruction/donnée : un contenu ou une sortie d’outil est consommé comme si elle instruisait.
- Escalade de permissions : l’agent agit au-delà de son périmètre (directement ou par suggestion).
- Outillage sur-confiant : un outil est traité comme autorité, sans bornage ni validation.
- Mémoire toxique : une fausse règle ou un biais devient persistant et réutilisé.
Relation aux autres clarifications de la série
- Injection de prompt : menace d’autorité et confusion instruction/donnée
- Injection indirecte : surfaces d’attaque via tâches légitimes
- Empoisonnement RAG : contamination du corpus et dérive interprétative
- Q-Layer face aux attaques d’injection : bornage des conditions de réponse
Portée de cette clarification
Cette page s’applique aux lectures humaines, aux synthèses automatisées, aux citations sans clic, et aux chaînes d’agents interconnectés.
Elle doit être interprétée comme une clarification de principe : dans un système agentique, la sécurité est une gouvernance d’autorité opérationnelle (permissions, outils, mémoire), et la non-réponse légitime en fait partie.
