Oubli machine
Techniques qui permettent à un modèle de désapprendre des données précises sans réentraînement complet, sans garantie d'oubli total ni vérifiable.
Cao et Yang, « Towards Making Systems Forget with Machine Unlearning », IEEE Symposium on Security and Privacy, 2015 : première formulation du problème, posée à partir du droit à l'effacement de l'article 17 du RGPD. L'oubli machine regroupe les techniques qui permettent à un modèle d'apprentissage de désapprendre des données précises en modifiant ses paramètres internes, sans le réentraînement complet, prohibitif en calcul. Née il y a une dizaine d'années, la discipline a produit des cadres dits d'oubli certifié, qui visent à garantir mathématiquement, par des bornes probabilistes, que l'influence des données retirées est suffisamment réduite. Ses limites restent sérieuses. Aucune méthode n'est universellement reconnue pour vérifier qu'un modèle a vraiment oublié, et les données d'un individu sont intriquées avec celles de milliers d'autres, ce qui rend leur retrait sans dégradation très délicat. L'oubli machine offre donc un effacement réel mais partiel, approximatif et difficile à prouver, loin de la suppression nette que suppose le droit à l'oubli.
Cas d'école : pour répondre à une demande d'effacement, un éditeur applique une technique d'oubli machine à son modèle. Il ne peut pourtant pas démontrer au régulateur que toute trace de la personne a disparu.
machine unlearning, désapprentissage automatique, oubli certifié
Suivez la recherche
Une lettre par semaine. En tête, la note de souscription de la semaine, quand il en paraît une : une décision datée et argumentée, signée de Paul Bernardski. Ensuite, ce que l'observatoire a publié en risque cyber, en risque politique et en assurance. Sans compte, sans suivi.
Pas de spam, désinscription en un clic, aucune donnée revendue.