Forêt aléatoire

La forêt aléatoire, proposée par Leo Breiman en 2001, est une méthode d'apprentissage qui combine un grand nombre d'arbres de décision indépendants. Chaque arbre est construit sur un échantillon tiré au hasard avec remise dans les données, et, à chaque division, il ne considère qu'un sous-ensemble aléatoire des variables disponibles. La prédiction finale est la moyenne des arbres pour une valeur continue, ou le vote majoritaire pour une classe. Ce double hasard rend les arbres différents les uns des autres, et leur moyenne réduit fortement la variance qu'aurait un arbre isolé, sans augmenter beaucoup le biais. La méthode est robuste, demande peu de réglages, tolère des variables nombreuses et corrélées, et fournit une mesure de l'importance de chaque variable. Elle se distingue du gradient boosting, qui construit ses arbres en séquence pour corriger les erreurs, alors que la forêt les construit en parallèle et les moyenne. En assurance, elle sert souvent de référence rapide, de détecteur d'anomalies ou de modèle de sélection de variables avant la construction d'un tarif, et elle est largement employée en détection de fraude et en tri des sinistres, où la robustesse importe plus que le dernier point de performance.