Réponse · Agents
Faut-il prévoir la réversibilité d’un agent IA, et qu’est-ce qu’elle ajoute ?
Oui, et elle ajoute quatre livrables à ceux d’un système d’IA classique — parce qu’un agent ne produit pas seulement du texte : il agit sur des systèmes, avec des droits. Inventaire des outils connectés, permissions et identités techniques, journal d’actions, politique d’escalade.
Les quatre livrables propres à un agent
- L’inventaire des outils connectés : quels systèmes l’agent peut appeler, par quelle interface, avec quelles opérations autorisées.
- Les permissions et les identités techniques : sous quelle identité l’agent agit, quels droits y sont attachés, qui les a accordés. C’est l’équivalent, pour un agent, du titulaire des comptes auprès des fournisseurs de modèles — et le même risque de rupture, puisqu’une identité créée par le prestataire disparaît avec lui.
- Le journal d’actions, distinct du journal de conversation : appels effectués, écritures réalisées, opérations refusées. C’est la seule trace qui permette de reconstituer un incident après coup.
- La politique d’escalade et les garde-fous : dans quels cas l’agent s’arrête et demande une validation humaine, et où cette règle est écrite. Un agent repris sans ses garde-fous est plus permissif que celui que vous exploitiez.
La question de qualification se pose davantage ici
- Plus un prestataire a étendu le périmètre d’action d’un agent pendant le contrat, plus la bascule de déployeur à fournisseur au sens de l’article 25 de l’AI Act devient une question sérieuse au moment de la reprise. À trancher par écrit avant la sortie.
La limite
- Le périmètre d’un agent évolue en exploitation : un inventaire d’outils figé à la signature sera faux à la sortie. La clause doit porter sur l’inventaire à jour, pas sur celui annexé.
Le guide complet : Plan de réversibilité — cloud et IA.
Lire le guideVoir aussi : Toutes les réponses · Agent IA autonome · Tenir identités et journal d’actions