Coefficient de Gini et AUC (pouvoir discriminant)
Mesures de la capacité d'un modèle à classer les risques du meilleur au pire, indépendamment du niveau de ses prédictions, utilisées pour comparer des tarifs ou des scores de fraude.
Un modèle de tarification ou de score peut se tromper de deux manières : sur le niveau, en prédisant globalement trop ou trop peu, et sur le classement, en mettant les bons et les mauvais risques dans le désordre. Le coefficient de Gini et l'aire sous la courbe ROC mesurent la seconde qualité, le pouvoir discriminant. Pour une classification binaire, fraude ou non, sinistre ou non, la courbe ROC trace la proportion de vrais positifs contre celle de faux positifs pour tous les seuils possibles, et son aire, notée AUC, vaut 0,5 pour un modèle qui classe au hasard et 1 pour un classement parfait. Le coefficient de Gini lui est lié par une relation simple, égal à deux fois l'aire moins un. En tarification, on emploie une version adaptée aux montants, fondée sur la courbe de concentration des sinistres selon le classement des primes prédites. Ces mesures servent à comparer deux modèles sur les mêmes données, par exemple un modèle linéaire et un gradient boosting. Elles ne disent rien de la calibration : un modèle peut classer parfaitement et prédire des montants faux, et il faut donc toujours les compléter par une mesure de calibration et par le jugement métier.
Cas d'école : un score de fraude atteint une aire sous la courbe de 0,82 sur l'échantillon de test, soit un Gini de 0,64, contre 0,74 et 0,48 pour les règles expertes qu'il remplace. En enquêtant sur les 5 pour cent de dossiers les mieux notés, l'assureur y trouve deux fois plus de fraudes avérées qu'avec les anciennes règles.
AUC, courbe ROC, Gini d'un modèle
Suivez la recherche
Une lettre par semaine. En tête, la note de souscription de la semaine, quand il en paraît une : une décision datée et argumentée, signée de Paul Bernardski. Ensuite, ce que l'observatoire a publié en risque cyber, en risque politique et en assurance. Sans compte, sans suivi.
Pas de spam, désinscription en un clic, aucune donnée revendue.