Glossaire · Empoisonnement de mémoire
Empoisonnement de mémoire
Définition
Altération de la mémoire persistante d’un agent afin de reconfigurer son comportement durablement, bien après l’interaction qui a introduit le contenu malveillant. Figure parmi les risques phares de l’OWASP Agentic Top 10.
Pourquoi c’est important
C’est le risque qui casse le réflexe habituel de la réponse à incident : la cause et l’effet sont séparés dans le temps, parfois de plusieurs semaines. Sans journal d’action horodaté remontant assez loin, on constate un comportement anormal sans jamais pouvoir remonter à son origine.
Exemple concret
Un agent d’assistance ingère un document contenant des instructions dissimulées. Rien ne se produit ce jour-là. Trois semaines plus tard, il applique ces instructions à des demandes sans rapport, et l’enquête ne trouve rien dans les journaux récents.
Lien avec SiyadAI
SiyadAI conserve un journal d’action horodaté et exportable, avec une durée de conservation définie — la seule façon de relier un comportement d’aujourd’hui à une ingestion d’il y a un mois.
Pourriez-vous reconstituer ce qu’un agent a lu il y a trois semaines ?
Situer mon expositionÀ lire aussi : Guide — gouverner ses agents IA · Shadow AI vs Shadow Agent · Checklist — 24 points