Ce qu’un dirigeant engage quand l’IA circule sans cadre
La question n'est pas de savoir si l'on peut être tenu responsable, mais de savoir ce qu'on pourra montrer le jour où elle est posée.
Là où l’exposition se situe réellement
Elle se situe rarement dans l'usage lui-même. Elle se situe dans l'absence de cadre : aucun inventaire, aucune décision tracée, aucune information des personnes concernées, aucune supervision organisée.
Face à un incident, la question posée est toujours la même : que saviez-vous, qu'aviez-vous mis en place, et pouvez-vous le prouver. Une organisation qui a décidé et documenté se défend ; une organisation qui n'a rien décidé n'a rien à opposer.
Les zones sensibles
Certains usages concentrent le risque : ceux qui touchent aux personnes — recrutement, évaluation, accès à un service —, ceux qui traitent des données sensibles, et ceux où une décision produit un effet sans qu'un humain l'ait réellement examinée.
Ce sont aussi ceux que l'AI Act encadre le plus strictement. La convergence n'est pas un hasard.
Ce qui réduit l’exposition, concrètement
Quatre choses, dans cet ordre : savoir ce qui est utilisé, avoir désigné qui décide, avoir tracé les décisions prises, et pouvoir le montrer sans délai.
Rien de tout cela n'exige une direction de la conformité. Cela exige que quelqu'un en soit responsable et dispose d'un état des lieux à jour.
Questions fréquentes
Suffit-il d’interdire l’IA par note interne ?
Non, et cela peut aggraver la situation : une interdiction non appliquée et non vérifiée démontre que le sujet était identifié sans être traité. L'usage se déplace alors vers des comptes personnels, hors de toute visibilité.
Faut-il une assurance spécifique ?
Interrogez votre courtier sur la couverture de vos polices existantes pour les incidents liés à l'IA. Cette question relève de votre conseil, pas de nous.
À partir de quelle taille faut-il s’en préoccuper ?
La taille compte moins que la nature des usages. Une organisation de trente personnes qui trie des candidatures avec une IA est plus exposée qu'une de trois cents qui l'utilise pour reformuler des textes publics.
Ce que vous pourrez montrer compte plus que ce que vous aurez interdit.
Commencez par voir ce qui circule réellement.
Dans le même silo
Voir aussi : Évaluer votre maturité AI Act · Décision automatisée — définition · Usages à haut risque (annexe III) · Notre manifeste