Faux positifs (détection de fraude)

Le 15 janvier 2021, le gouvernement néerlandais de Mark Rutte démissionne à cause de la toeslagenaffaire : pendant des années, l'administration fiscale avait traité comme fraudeurs des milliers de parents bénéficiaires d'allocations de garde d'enfants, sur la foi de signalements dont une partie venait d'un modèle de classement des risques. Un faux positif, en détection de fraude, est un dossier honnête que le système signale comme suspect. Son coût est double. L'assuré honnête voit son indemnisation retardée, subit des questions qui le traitent en suspect et, souvent, part à l'échéance. La cellule d'enquête dépense ses heures sur des dossiers sans fraude, au détriment de ceux qui en contiennent. Le problème vient d'abord de la rareté. Supposons que 1 % des sinistres soient frauduleux et qu'un modèle détecte 90 % des fraudes en ne signalant à tort que 5 % des dossiers honnêtes : sur 10 000 sinistres, il lève 90 alertes justes et 495 fausses, si bien qu'à peine plus de 15 % des alertes visent une fraude. C'est le paradoxe du taux de base, et il explique pourquoi un modèle excellent sur le papier noie les enquêteurs. Le réglage passe par le seuil. Le monter réduit les faux positifs et laisse filer davantage de fraudes, le baisser fait l'inverse. Les praticiens raisonnent donc en capacité d'enquête plutôt qu'en exactitude : ils fixent le nombre d'alertes que l'équipe peut traiter chaque semaine et mesurent la précision sur cette tranche, avec une courbe de lift plutôt qu'une AUC globale. Le droit tire dans le même sens, puisqu'un refus fondé exclusivement sur un traitement automatisé tombe sous l'article 22 du RGPD. En pratique, une alerte ouvre une vérification et ne motive pas seule un refus, mais la frontière se brouille vite quand le gestionnaire valide l'alerte par habitude.