Confidentialité différentielle

Recensement américain de 2020 : le Census Bureau protège pour la première fois ses tableaux par confidentialité différentielle. Il abandonne la permutation d'enregistrements employée en 2010, après avoir constaté que les tableaux publiés suffisaient à reconstruire les réponses individuelles. Les chiffres à l'échelle de l'îlot y ont perdu en précision. La confidentialité différentielle qualifie un traitement, et pas les données : elle n'anonymise rien. Elle garantit que les résultats ont presque la même distribution, qu'un individu donné figure ou non dans le jeu de données, et un paramètre déclaré publiquement borne l'écart maximal. Un observateur ne peut donc pas conclure à la présence de cette personne, même s'il dispose de toute autre information. La garantie est bien plus forte que la suppression des identifiants directs, que le recoupement a défaite à de nombreuses reprises. Son coût est explicite, et c'est sa vertu : le bruit ajouté dégrade la précision des résultats, et le paramètre rend public un arbitrage qu'une procédure aurait caché. Chaque interrogation entame en outre un budget, ce qui oblige à compter les usages. En apprentissage automatique, la propriété s'obtient pendant l'entraînement. Elle borne alors ce qu'une attaque par inférence d'appartenance peut apprendre, et c'est la seule protection qu'on démontre au lieu de simplement la constater.