Discrimination indirecte

La Cour de justice de l'Union européenne rend l'arrêt Test-Achats le 1er mars 2011 (C-236/09). Elle invalide la dérogation de l'article 5, paragraphe 2, de la directive 2004/113/CE et interdit, à compter du 21 décembre 2012, de faire varier primes et prestations selon le sexe. L'interdiction porte sur la variable ; son effet demeure. Des variables d'apparence neutre (profession, type de véhicule, lieu de résidence, historique de consultation en ligne) servent de substituts à une caractéristique protégée dès qu'elles lui sont corrélées. C'est la discrimination indirecte. Un modèle entraîné sur des centaines de variables corrélées reconstitue la caractéristique sans qu'on le lui demande, souvent mieux qu'une déclaration directe, puisque plusieurs substituts imparfaits valent un indicateur fiable. L'interdiction retire surtout le moyen de mesurer l'effet, car on ne collecte plus la donnée qui servirait à auditer le modèle. La littérature sur l'équité algorithmique appelle cette stratégie l'équité par inconscience et la juge en général la plus faible de toutes. C'est pourtant, en substance, celle que le droit européen a retenue. Les parades proposées (collecter la variable protégée aux seules fins d'audit, contraindre l'apprentissage, corriger les écarts après coup) butent sur une difficulté juridique symétrique : mesurer suppose de collecter, et corriger suppose d'utiliser.