Régularisation (lasso et ridge)

La régularisation ajoute à la fonction que le modèle cherche à minimiser un terme de pénalité proportionnel à la taille de ses coefficients. Le modèle doit alors arbitrer entre bien reproduire les données et rester simple. La pénalité ridge porte sur la somme des carrés des coefficients : elle les rétrécit tous vers zéro sans en annuler aucun, ce qui stabilise les estimations lorsque les variables sont corrélées. La pénalité lasso, proposée par Robert Tibshirani en 1996, porte sur la somme de leurs valeurs absolues : elle peut ramener exactement à zéro les coefficients des variables peu utiles, et réalise ainsi une sélection de variables. La combinaison des deux, dite elastic net, cumule leurs avantages. L'intensité de la pénalité se choisit par validation croisée. En tarification, la régularisation appliquée aux modèles linéaires généralisés est particulièrement précieuse pour les variables à nombreuses modalités, zones géographiques, modèles de véhicules, professions, où beaucoup de modalités comptent peu d'observations. Elle rejoint alors l'intuition de la crédibilité actuarielle : un coefficient estimé sur peu de données est ramené vers la moyenne, dans une mesure qui dépend de la quantité d'information disponible.