Carte de modèle
Document court joint à un modèle. Il déclare l'usage prévu, les populations évaluées et les limites connues, si bien qu'un emploi hors domaine devient une faute constatable.
Une carte de modèle est un document normalisé joint à un modèle publié. Elle énonce l'usage prévu et les usages déconseillés, les données d'entraînement et d'évaluation, les performances mesurées par sous-population plutôt qu'en moyenne, et les limites connues. L'idée de départ est simple et porte loin. La performance moyenne d'un modèle cache des écarts considérables entre groupes ; une déclaration ventilée montre ce qu'une métrique unique dissimule. La portée juridique dépasse encore la portée technique. En déclarant un domaine d'emploi, le fournisseur fait de tout usage hors de ce domaine le fait du déployeur, et s'engage en retour sur ce qu'il a déclaré. La carte devient la pièce autour de laquelle la responsabilité se partage entre celui qui fabrique et celui qui applique. Les régimes réglementaires récents ont repris ce partage en imposant une documentation technique de même nature.
La carte de modèle a été proposée dans l'article Model Cards for Model Reporting, présenté en janvier 2019 à la conférence sur l'équité, la responsabilité et la transparence. C'est depuis la forme usuelle de documentation des modèles diffusés publiquement.
model card, fiche de modèle, documentation de modèle
Suivez la recherche
Une lettre par semaine. En tête, la note de souscription de la semaine, quand il en paraît une : une décision datée et argumentée, signée de Paul Bernardski. Ensuite, ce que l'observatoire a publié en risque cyber, en risque politique et en assurance. Sans compte, sans suivi.
Pas de spam, désinscription en un clic, aucune donnée revendue.