Glossaire · Empoisonnement d’outil
Empoisonnement d’outil (tool poisoning)
Définition
Instructions malveillantes dissimulées dans les métadonnées d'un outil MCP — son nom, sa description. Le modèle lit la description pour décider quel outil appeler, et exécute l'instruction cachée.
Pourquoi c’est important
L'attaque ne vit ni dans le prompt de l'utilisateur, ni dans l'agent : elle vit dans l'outil. Un agent parfaitement gouverné — identité dédiée, droits limités, point d'arrêt — l'exécutera quand même. C'est pourquoi sécuriser le modèle et gouverner l'agent ne suffit pas.
Exemple concret
Une description d'outil contient, en caractères Unicode invisibles à l'écran de validation, l'ordre de lire un fichier de configuration et d'en envoyer le contenu. L'utilisateur approuve ce qu'il voit ; le modèle lit autre chose.
Lien avec SiyadAI
SiyadAI tient la liste blanche des serveurs autorisés et surveille les descriptions d'outils, y compris leurs changements après adoption.
Vos descriptions d'outils sont-elles surveillées ?
Situer mon expositionÀ lire aussi : Guide — sécurité MCP et connecteurs · Modèle, agent, connecteur · Checklist — 24 points