Attaque par inférence d'appartenance (membership inference attack)


Les attaques par inférence d'appartenance visent à permettre à un attaquant d’acquérir des connaissances sur les données utilisées pour la production du modèle d’IA.

En pratique, il s’agit de déterminer si des données relatives à un individu ont été utilisées lors de la phase d’entraînement (ou d’apprentissage). Cette connaissance peut permettre à l’attaquant de déduire des informations concernant une personne (par exemple déterminer s’il est atteint d’une pathologie).

Les mots clés associés à cet article