Dérive du modèle

La dérive du modèle désigne la dégradation progressive des performances d'un système d'intelligence artificielle au fil du temps, lorsque la réalité qu'il rencontre en production s'éloigne des données sur lesquelles il a été entraîné. Un modèle apprend les régularités d'un instantané du monde, mais le monde change, les comportements évoluent, les distributions se déplacent, et ce qui était vrai à l'entraînement cesse peu à peu de l'être. On distingue souvent la dérive des données, lorsque les caractéristiques des entrées changent, de la dérive du concept, lorsque la relation entre les entrées et la cible à prédire se modifie. Le danger de la dérive est sa discrétion, le modèle continuant de produire des réponses d'apparence normale tout en devenant graduellement moins fiable, sans alerte évidente. Elle impose donc une surveillance continue des performances et des réentraînements périodiques. En matière cyber, cette question est particulièrement aiguë, car la menace évolue rapidement, les attaquants adaptant en permanence leurs techniques, ce qui provoque une dérive rapide des modèles de détection, qui peuvent devenir aveugles à des attaques d'un type nouveau. La dérive constitue ainsi un risque opérationnel et de responsabilité, un système non surveillé pouvant causer un dommage longtemps après avoir cessé d'être fiable.

Un modèle de détection de fraude entraîné sur les comportements d'il y a deux ans devient progressivement moins efficace à mesure que les fraudeurs changent de méthodes. Faute de surveillance, sa dérive passe inaperçue jusqu'à ce qu'une vague de fraudes lui échappe.

dérive du modèle, model drift, data drift, dérive des données, dégradation du modèle