Discrimination algorithmique
Traitement défavorable et injustifié de personnes par un système automatisé, en raison de caractéristiques protégées, directement ou par variables proxy.
ProPublica, « Machine Bias », 23 mai 2016 : sur les prévenus du comté de Broward qui ne récidivent pas, l'outil COMPAS en classe 44,9 % parmi les Noirs comme à risque élevé, contre 23,5 % parmi les Blancs. La discrimination algorithmique survient lorsqu'un système automatisé traite des personnes de manière défavorable et injustifiée en raison de caractéristiques protégées telles que l'origine, le sexe ou l'état de santé. Elle peut être directe, lorsque la caractéristique est utilisée comme critère, ou indirecte, lorsqu'une variable apparemment neutre, un code postal par exemple, sert de proxy à une caractéristique protégée. Distincte du simple biais algorithmique, qui en est souvent la cause technique, la discrimination relève d'une qualification juridique. En assurance, elle se heurte aux principes d'équité actuarielle et de non-discrimination, déjà éprouvés par la jurisprudence. La question pèse d'autant plus que la directive produits (UE) 2024/2853 ne répare, à son article 6, que la mort, l'atteinte à la santé, les dommages aux biens et la perte de données : une atteinte aux droits fondamentaux reste aux droits nationaux et au RGPD.
Cas d'école : un algorithme qui refuse plus souvent une couverture aux habitants de certains quartiers peut constituer une discrimination algorithmique indirecte si le critère géographique masque une caractéristique protégée.
discrimination automatisée, algorithmic discrimination
Suivez la recherche
Une lettre par semaine. En tête, la note de souscription de la semaine, quand il en paraît une : une décision datée et argumentée, signée de Paul Bernardski. Ensuite, ce que l'observatoire a publié en risque cyber, en risque politique et en assurance. Sans compte, sans suivi.
Pas de spam, désinscription en un clic, aucune donnée revendue.