Glossaire · Supervision humaine
Supervision humaine (article 14)
Définition
Obligation faite aux systèmes à haut risque de permettre à une personne de comprendre, surveiller et interrompre le système. Pour un agent, cela se traduit par une validation avant action sensible, des alertes de dérive et un point d’arrêt fiable.
Pourquoi c’est important
Attention à une confusion répandue : cette obligation n’est pas applicable aujourd’hui. Le règlement (UE) 2026/1744, en vigueur depuis le 27 juillet 2026, a reporté les obligations de l’annexe III — dont les articles 12 et 14 — au 2 décembre 2027. En revanche, l’article 22 du RGPD impose déjà l’intervention humaine dès qu’une décision automatisée produit un effet significatif : c’est lui qui oblige aujourd’hui.
Exemple concret
Un opérateur reçoit une alerte parce qu’un agent tente une action hors de son périmètre, et l’arrête avant exécution. Un point d’arrêt jamais testé ne compte pas : « on débrancherait la clé » n’est une supervision que si quelqu’un l’a déjà fait.
Lien avec SiyadAI
SiyadAI documente le point d’arrêt de chaque agent et la date de son dernier test, et le fait remonter quand il vieillit.
Votre point d’arrêt a-t-il déjà été déclenché pour de vrai ?
Situer mon expositionÀ lire aussi : Guide — gouverner ses agents IA · Shadow AI vs Shadow Agent · Checklist — 24 points