Biais algorithmique
Erreur systématique d'un système d'IA qui produit des résultats injustement défavorables à certains groupes, souvent issue de données d'entraînement biaisées.
Obermeyer, Powers, Vogeli et Mullainathan, Science, 25 octobre 2019 : un algorithme de santé utilisé aux États-Unis prédit les coûts à la place des besoins, et à score égal les patients noirs y sont nettement plus malades que les patients blancs. Le biais algorithmique désigne la tendance d'un système d'IA à produire des résultats systématiquement faussés, souvent au détriment de certains groupes de personnes. La défaillance n'a rien d'aléatoire. La déviation se reproduit, et son origine se trouve le plus souvent en amont : des données d'entraînement non représentatives, des variables corrélées à des caractéristiques protégées, ou la conception même du modèle. En assurance, le sujet est central. Un moteur de tarification biaisé peut pénaliser à tort une catégorie d'assurés et basculer dans la discrimination algorithmique prohibée. L'AI Act répond par des exigences de gouvernance des données et de supervision humaine. La directive (UE) 2024/2853 sur la responsabilité du fait des produits défectueux, elle, laisse hors de son champ la discrimination et les atteintes à la vie privée, qui n'ouvrent pas droit à réparation à elles seules, et renvoie ce contentieux aux droits nationaux.
Cas d'école : un modèle entraîné sur des données historiques reflétant des inégalités passées peut reproduire un biais algorithmique en surtarifant systématiquement un quartier, ce que l'assureur doit détecter et corriger.
- Directive (UE) 2024/2853 du 23 octobre 2024 relative à la responsabilité du fait des produits défectueux, article 6 (dommage réparable) ; CMS, « The new EU Product Liability Directive (EU) 2024/2853 »
biais d'un modèle, algorithmic bias
Suivez la recherche
Une lettre par semaine. En tête, la note de souscription de la semaine, quand il en paraît une : une décision datée et argumentée, signée de Paul Bernardski. Ensuite, ce que l'observatoire a publié en risque cyber, en risque politique et en assurance. Sans compte, sans suivi.
Pas de spam, désinscription en un clic, aucune donnée revendue.