Discrimination par variable de substitution
Reproduction de l'effet d'une variable protégée par un modèle qui la reconstruit à partir de ses corrélats, sans aucune intention de discriminer.
La discrimination par variable de substitution est le mécanisme par lequel un modèle privé d'une caractéristique protégée, mais nourri de milliers d'autres variables, en reconstruit l'effet à partir de ses corrélats. Aucune intention n'est nécessaire : la fonction du modèle est précisément de trouver toute corrélation prédictive, et la caractéristique protégée en est une. Le droit de la non-discrimination fondé sur des listes de variables interdites devient obsolète, car interdire une variable n'interdit pas son effet. Le seul remède est de réguler les sorties plutôt que les entrées, en testant l'impact disparate même sur un modèle neutre en apparence, ce qui se heurte à une impossibilité : mesurer ce qu'on interdit de collecter.
Un modèle privé d'une variable protégée mais nourri de milliers d'autres reconstruit l'effet de la variable manquante à partir de ses corrélats, sans chercher à discriminer.
proxy discrimination, discrimination par proxy
Suivez la recherche
Une lettre par semaine. En tête, la note de souscription de la semaine, quand il en paraît une : une décision datée et argumentée, signée de Paul Bernardski. Ensuite, ce que l'observatoire a publié en risque cyber, en risque politique et en assurance. Sans compte, sans suivi.
Pas de spam, désinscription en un clic, aucune donnée revendue.