Glossaire · Surveillance post-marché
Surveillance post-marché
Définition
Système documenté par lequel le fournisseur d’un système d’IA à haut risque collecte et analyse en continu les données de performance et de sécurité de ce système tout au long de son cycle de vie, sur la base d’un plan de surveillance écrit. C’est l’objet de l’article 72 de l’AI Act.
Pourquoi c’est important
C’est le capteur qui rend l’incident visible. Une organisation qui ne surveille pas ne déclare pas — non par mauvaise foi, mais parce qu’elle ne voit rien. L’article 72 est l’obligation amont, l’article 73 l’obligation aval : l’un ne fonctionne pas sans l’autre.
Exemple concret
Un tableau de bord de dérive de modèle, avec des seuils d’alerte et une journalisation — doublé d’une boucle de remontée humaine venant du support et des métiers. Un incident d’IA se voit autant dans une plainte RH que dans une courbe : la moitié humaine du capteur fait partie de la surveillance, pas de la communication interne.
Lien avec SiyadAI
SiyadAI tient l’inventaire des systèmes d’IA à surveiller — y compris ceux que personne n’a déclarés — et le registre d’incidents où atterrit ce que la surveillance révèle.
Vos systèmes d’IA sont-ils surveillés, ou seulement déployés ?
Révéler mon Shadow AIÀ lire aussi : Guide — détecter, qualifier, notifier · Article 72 ou article 73 ? · Checklist article 73