Impact disparate
Effet discriminatoire mesuré sur les résultats d'un modèle, indépendamment de toute intention et de la neutralité apparente des données.
La Cour suprême des États-Unis a posé la notion dans l'arrêt Griggs c. Duke Power Co. du 8 mars 1971 : un critère d'embauche neutre en apparence est illicite s'il écarte un groupe protégé sans nécessité professionnelle. Transposé aux modèles, l'impact disparate déplace le contrôle de la discrimination des variables d'entrée vers les résultats produits. Un modèle est jugé sur ce qu'il fait, non sur ce qu'on lui a donné. C'est la seule approche qui résiste à la reconstruction par variable de substitution. La législation du Colorado l'a consacré : elle exige des tests quantitatifs de détection d'un impact disparate même lorsque données et modèle sont neutres en apparence. Le texte a été étendu en octobre 2025 à l'automobile des particuliers et aux couvertures santé. L'obstacle tient de l'ironie. Tester l'impact selon l'origine suppose de connaître l'origine, que le droit interdit souvent de collecter, si bien que la régulation par l'impact reste une exigence sans instrument.
On exige de tester l'impact disparate d'un modèle selon l'origine tout en interdisant de collecter l'origine. L'assureur doit donc prouver l'absence d'un effet qu'il n'a pas le droit d'observer.
effet disparate, impact disproportionné
Suivez la recherche
Une lettre par semaine. En tête, la note de souscription de la semaine, quand il en paraît une : une décision datée et argumentée, signée de Paul Bernardski. Ensuite, ce que l'observatoire a publié en risque cyber, en risque politique et en assurance. Sans compte, sans suivi.
Pas de spam, désinscription en un clic, aucune donnée revendue.