Gouvernance des données
Ensemble des pratiques encadrant la qualité, la représentativité et la traçabilité des données utilisées pour entraîner et exploiter un système d'IA.
Règlement (UE) 2024/1689, article 10, publié au Journal officiel le 12 juillet 2024 : les jeux de données d'entraînement, de validation et de test d'un système d'IA à haut risque doivent être pertinents, suffisamment représentatifs et, dans toute la mesure du possible, exempts d'erreurs et complets au regard de la destination du système ; leur origine, leur annotation, leur nettoyage et l'examen des biais possibles sont documentés. La gouvernance des données recouvre les règles et procédures par lesquelles une organisation maîtrise ses données, de la collecte à l'usage. Elle veille à leur qualité, leur représentativité, leur pertinence et leur traçabilité. Pour les systèmes d'IA à haut risque, l'AI Act en fait une obligation explicite, car un modèle ne vaut jamais plus que les données qui l'ont entraîné. Des données biaisées, incomplètes ou non représentatives produisent des biais algorithmiques et, en assurance, des risques de discrimination tarifaire. Une gouvernance sérieuse détecte et corrige ces défauts en amont, documente les jeux de données et vérifie leur conformité, notamment au RGPD. C'est l'un des piliers de la conformité réglementaire, devenue une condition de la souscription d'assurance.
Cas d'école : avant de mettre en production un modèle de tarification santé, un assureur audite ses données d'entraînement pour vérifier qu'aucune variable proxy n'introduit de discrimination indirecte, exigence de gouvernance des données posée par l'AI Act.
- Règlement (UE) 2024/1689 (AI Act), article 10, Journal officiel de l'Union européenne du 12 juillet 2024
data governance, qualité des données
Suivez la recherche
Une lettre par semaine. En tête, la note de souscription de la semaine, quand il en paraît une : une décision datée et argumentée, signée de Paul Bernardski. Ensuite, ce que l'observatoire a publié en risque cyber, en risque politique et en assurance. Sans compte, sans suivi.
Pas de spam, désinscription en un clic, aucune donnée revendue.