Extraction de Modèle et Attaques de Vie Privée
Un attaquant peut voler un modèle en le interrogeant à plusieurs reprises et en répliquant son comportement. Ou il peut déduire l'appartenance à l'ensemble d'entraînement. Les deux sont des violations de confidentialité.
Voir le flux de travail →Les Quatre Phases
Une attaque suit un processus reproductible et documenté.
- Reconnaissance cible
- Stratégie de requête
- Reconstruction de modèle
- Exploitation
Concepts Fondamentaux
Les fondations de la compréhension de ces vulnérabilités.
Pourquoi l'extraction de modèle compte
Les poids du modèle sont de la propriété intellectuelle. Si une API expose les prédictions du modèle, un attaquant peut voler le modèle entier via des requêtes répétées. De plus, la confidentialité des données d'entraînement peut être violée par des attaques d'inférence d'appartenance.
- Voler les poids du modèle propriétaire via l'accès à l'API
- Déduire si des échantillons spécifiques étaient dans l'ensemble d'entraînement
- Extraire des modèles sensibles ou des règles de décision
- Violer la confidentialité des contributeurs de données d'entraînement
Méthodologie d'extraction et de confidentialité
Le vol de modèle a quatre phases : reconnaissance (profiler le modèle), requête (collecter les prédictions), distillation (entraîner un modèle de substitution) et exploitation (utiliser le modèle volé). Les attaques de confidentialité fonctionnent de façon similaire.
- Extraction : requêtes FGSM, exemples adversariaux, distillation
- Inférence d'appartenance : violations de la confidentialité différentielle
- Reconstruction de données d'entraînement : attaques d'inversion basées sur GAN
- Défenses de confidentialité : confidentialité différentielle, perturbation de sortie
Le Flux de Travail d'Attaque
Chaque phase est méthodique et reproductible. Aucune phase n'est sautée ; chacune a des objectifs clairs.
Reconnaissance
Quelle est l'architecture du modèle ? Comment répond-il aux requêtes ?
Collecter les prédictions
Interroger l'API systématiquement pour construire un ensemble de paires entrée-sortie.
Entraîner un modèle de substitution
Utiliser les données collectées pour entraîner un modèle réplica qui imite la cible.
Exploiter ou analyser
Utiliser le modèle volé pour les attaques ou effectuer l'inférence d'appartenance.
Pages Associées
Approfondissements sur les sujets d'attaque et défense connexes.
Sécurité de la Chaîne IA
Protéger les checkpoints de modèle et prévenir l'accès non autorisé.
Audit IA & Cadre de Méthode
Test des vulnérabilités d'extraction de modèle.
Empoisonnement de Données & Backdoors
Défense contre le vol de modèle par entraînement robuste.
Gouvernance IA & AI Act
Règlements de confidentialité et droits de propriété des modèles.