Ensemble des pratiques encadrant la qualité, la représentativité et la traçabilité des données utilisées pour entraîner et exploiter un système d'IA.
La gouvernance des données recouvre les règles et procédures par lesquelles une organisation maîtrise le cycle de vie de ses données, depuis leur collecte jusqu'à leur usage, en veillant à leur qualité, leur représentativité, leur pertinence et leur traçabilité. Pour les systèmes d'IA à haut risque, l'AI Act en fait une obligation explicite, car la fiabilité d'un modèle ne vaut jamais plus que celle des données qui l'ont entraîné. Des données biaisées, incomplètes ou non représentatives produisent des biais algorithmiques et, en assurance, des risques de discrimination dans la tarification. Une gouvernance rigoureuse vise à détecter et corriger ces défauts en amont, à documenter les jeux de données et à garantir leur conformité, notamment au regard du RGPD. Elle constitue ainsi l'un des piliers de la conformité réglementaire devenue condition de la souscription d'assurance.
Avant de mettre en production un modèle de tarification santé, un assureur audite ses données d'entraînement pour vérifier qu'aucune variable proxy n'introduit de discrimination indirecte, exigence de gouvernance des données posée par l'AI Act.
data governance, qualité des données