Erreur systématique d'un système d'IA qui produit des résultats injustement défavorables à certains groupes, souvent issue de données d'entraînement biaisées.
Le biais algorithmique désigne la tendance d'un système d'IA à produire des résultats systématiquement distordus, souvent au détriment de certains groupes de personnes. Il ne s'agit pas d'une défaillance aléatoire, mais d'une déviation reproductible dont l'origine se trouve le plus souvent en amont, dans des données d'entraînement non représentatives, dans des variables corrélées à des caractéristiques protégées ou dans la conception même du modèle. En assurance, le biais algorithmique est une préoccupation centrale, car il peut conduire un moteur de tarification à pénaliser indûment une catégorie d'assurés et à se muer en discrimination algorithmique prohibée. L'AI Act y répond par des exigences de gouvernance des données et de supervision humaine, tandis que la directive produits exclut paradoxalement de son champ les atteintes aux droits fondamentaux, renvoyant ce contentieux aux droits nationaux.
Un modèle entraîné sur des données historiques reflétant des inégalités passées peut reproduire un biais algorithmique en surtarifant systématiquement un quartier, ce que l'assureur doit détecter et corriger.
biais d'un modèle, algorithmic bias