Obligation de suivre le comportement d'un système d'IA après sa mise sur le marché pour détecter et corriger les risques émergents.
La surveillance post-commercialisation désigne l'obligation, prévue par le règlement européen sur l'IA, pour les fournisseurs de systèmes à haut risque, de suivre activement le comportement de leurs systèmes une fois mis sur le marché, afin de détecter les dérives, les incidents et les risques émergents qui n'auraient pas été identifiés lors de l'évaluation préalable. Cette logique reconnaît que les systèmes d'intelligence artificielle, contrairement à un produit figé, peuvent évoluer dans leur usage, rencontrer des situations imprévues ou se dégrader, ce qui justifie un suivi continu plutôt qu'une certification ponctuelle. Le fournisseur doit collecter et analyser les données de fonctionnement, signaler les incidents graves et prendre des mesures correctives. Transposée du droit des dispositifs médicaux et des produits, cette obligation a une portée assurantielle directe: elle conditionne la maîtrise du risque dans le temps et le partage de responsabilité entre fournisseur et déployeur. Un défaut de surveillance après commercialisation peut aggraver la responsabilité du fournisseur en cas de dommage causé par une dérive non détectée et non corrigée.
Un fournisseur détectant, grâce à sa surveillance post-commercialisation, qu'un système d'IA produit des décisions discriminatoires doit prendre des mesures correctives sous peine d'aggraver sa responsabilité.
post-market monitoring, surveillance post-commercialisation, surveillance après mise sur le marché