Traitement défavorable et injustifié de personnes par un système automatisé, en raison de caractéristiques protégées, directement ou par variables proxy.
La discrimination algorithmique survient lorsqu'un système automatisé traite des personnes de manière défavorable et injustifiée en raison de caractéristiques protégées telles que l'origine, le sexe ou l'état de santé. Elle peut être directe, lorsque la caractéristique est utilisée comme critère, ou indirecte, lorsqu'une variable apparemment neutre, un code postal par exemple, sert de proxy à une caractéristique protégée. Distincte du simple biais algorithmique, qui en est souvent la cause technique, la discrimination relève d'une qualification juridique. En assurance, elle se heurte aux principes d'équité actuarielle et de non-discrimination, déjà éprouvés par la jurisprudence. L'enjeu est d'autant plus vif que la directive produits exclut les atteintes aux droits fondamentaux de son régime de responsabilité sans faute, laissant ces litiges aux droits nationaux et au RGPD.
Un algorithme qui refuse plus souvent une couverture aux habitants de certains quartiers peut constituer une discrimination algorithmique indirecte si le critère géographique masque une caractéristique protégée.
discrimination automatisée, algorithmic discrimination