Valeurs de Shapley (SHAP)

Les valeurs de Shapley viennent de la théorie des jeux coopératifs : Lloyd Shapley a proposé en 1953 une manière unique de répartir le gain d'une coalition entre ses membres, selon la contribution moyenne de chacun à toutes les coalitions possibles, en respectant des propriétés d'équité. La méthode SHAP, publiée en 2017, applique ce principe à l'explication des modèles prédictifs : pour une prédiction donnée, par exemple la prime d'un assuré ou le score de fraude d'un sinistre, elle calcule la contribution de chaque variable à l'écart entre cette prédiction et la prédiction moyenne. La somme des contributions est exactement égale à cet écart, ce qui rend l'explication cohérente. Agrégées sur un portefeuille, les valeurs montrent l'influence globale de chaque variable et la forme de ses effets. La méthode est devenue le standard pour interpréter les modèles d'ensemble et les réseaux de neurones en assurance, notamment pour répondre aux exigences d'explicabilité des régulateurs et pour motiver une décision auprès d'un assuré. Ses limites tiennent au coût de calcul, à la sensibilité aux corrélations entre variables, et au fait qu'elle explique ce que fait le modèle, pas pourquoi le risque est ce qu'il est : une variable de substitution discriminante y apparaît comme une variable légitime.