Glossaire · AI Act art. 3(23) et art. 25

Modification substantielle

Définition

Un changement apporté à un système d'IA déjà mis sur le marché ou en service, qui n'était pas prévu dans son évaluation initiale et qui affecte sa conformité ou sa finalité. C'est le fait générateur de la bascule prévue à l'article 25.

Pourquoi c’est important

Le mot « substantielle » n'a rien d'intuitif pour une équipe technique : un ré-entraînement qui modifie le comportement du modèle, l'ajout d'un module de décision automatique ou un changement de finalité en sont ; une mise à jour de dépendance ou un correctif de performance, non. La ligne se trace au cas par cas, et elle se trace avant le geste, pas pendant l'audit.

Exemple concret

Ajouter à un outil de tri de tickets un module qui décide seul de la clôture. Ré-entraîner un moteur de détection sur un nouveau corpus qui change ses sorties. Réutiliser un classifieur de documents pour présélectionner des candidatures.

Lien avec SiyadAI

SiyadAI rattache chaque modification au système concerné et à son propriétaire, de sorte que la question « est-ce substantiel ? » se pose sur une trace, pas sur un souvenir.

Quels gestes font basculer une DSI ?

Lire la réponse

À lire aussi : Guide IA & DSI · Article 25 · Système à haut risque · Checklist DSI

Explorer les autres piliers