Extraction de Modèle & Attaques de Confidentialité
Un attaquant peut voler un modèle propriétaire en boîte noire via des requêtes API ciblées (distillation active), ou reconstituer des données sensibles d'entraînement via l'inférence d'appartenance. Ces menaces compromettent la propriété intellectuelle et la conformité légale.
Voir le workflow d'extraction →La Matrice des Menaces
Le vol d'actifs et l'exfiltration de données exploitent la surface des requêtes API :
- Vol fonctionnel de modèle via distillation de substitution
- Inférence d'appartenance (MIA) sur les données d'entraînement
- Inversion de modèle et reconstruction de données d'origine
- Fuite de gradients et profiling par modèles miroirs (*shadow models*)
Concepts Fondamentaux : Vol d'IP & Fuites de Données
Les poids d'un modèle constituent un actif de propriété intellectuelle critique, tandis que les corpus d'entraînement contiennent fréquemment du code source, des données de santé ou des informations financières. Les API exposent des vecteurs de logits et scores de confiance qui créent des canaux auxiliaires d'exfiltration.
Vol de Modèle & Distillation Active
En interrogeant de façon méthodique une API, un attaquant associe des entrées synthétiques aux distributions de probabilités renvoyées. À l'aide de l'apprentissage actif (*Active Learning*), il entraîne un modèle de substitution qui réplique fidèlement les frontières de décision du modèle cible avec un coût de calcul dérisoire.
- Contournement des quotas via des requêtes distribuées multi-comptes
- Reproduction du raisonnement logique et des compétences zéro-shot
- Préparation d'attaques d'évasion hors ligne réutilisables contre l'orchestration d'agents IA
- Exfiltration de savoir-faire sans intrusion directe dans l'infrastructure
Inférence d'Appartenance & Inversion
Les modèles affichant une confiance anormalement élevée sur leurs données d'apprentissage (surapprentissage), des modèles miroirs peuvent déterminer si un individu précis figurait dans le jeu de données d'origine. Les attaques par inversion utilisent des réseaux génératifs (GANs) pour reconstruire des visages ou des documents textuels directement depuis les prédictions.
- Risque critique pour l'audit de sécurité IA en santé et l'audit IA bancaire
- Non-conformité directe au RGPD et aux exigences de l'AI Act européen & ISO 42001
- Corrélation étroite avec les attaques par empoisonnement de données
- Fuites de contexte dans les architectures de sécurité RAG & bases vectorielles
Taxonomie des Vecteurs d'Extraction et de Confidentialité
L'audit de robustesse classe les attaques selon le degré d'accès, la distribution des requêtes et l'objectif d'exploitation :
1. Distillation par Requêtes Directes
Génération d'entrées synthétiques pour récupérer les probabilités douces (*soft labels*), entraînant une architecture locale qui reproduit les performances du modèle cible.
2. Vol d'Hyperparamètres et d'Embeddings
Déduction de la dimension des couches cachées, des dictionnaires de tokens ou des matrices d'embeddings par analyse temporelle et corrélation de sorties.
3. Inférence d'Appartenance Métrique
Mesure de l'entropie prédictive et des pertes sur des échantillons tests pour prouver mathématiquement leur inclusion dans les corpus privés d'apprentissage.
4. Inversion de Modèle Profonde
Optimisation rétrograde guidée par des modèles générateurs pour synthétiser des représentations visuelles ou textuelles identifiables du jeu de données source.
5. Vol de Vulnérabilités Adversariales
Conception d'un clone pour concevoir hors ligne des exemples adversariaux transférables contre le modèle de production via des méthodes d'apprentissage par renforcement adversarial.
6. Extraction de Prompts Système
Exfiltration ciblée des méta-instructions système, des contextes *few-shot* et des outils intégrés au travers d'attaques par injection de prompt.
Le Protocole d'Audit d'Extraction en 4 Phases
Une méthodologie rigoureuse pour quantifier l'exposition de l'API, évaluer les fuites de données et déployer des défenses adaptées.
1. Audit de Surface d'Exposition API
Analyse de la granularité des sorties de l'API : retour des logits complets, probabilités partielles (top-k) ou simples labels discrets. Évaluation de la gestion des limites de débit conformément à notre cadre méthodologique d'audit de système IA.
2. Modélisation de Substitution & Budget de Requêtes
Simulation du processus d'attaque par requêtes synthétiques actives. Calcul du budget minimum de requêtes nécessaire à un attaquant pour atteindre 90 % de fidélité avec la cible selon le protocole MITRE ATLAS AML.T0024.
3. Tests de Fuite de Données & Attaques MIA
Entraînement de modèles miroirs pour mesurer précisément le taux de vrais positifs et faux positifs lors de tentatives d'inférence d'appartenance. Exécution de tests d'inversion pour identifier les fuites de données d'entraînement.
4. Durcissement & Tatouage Numérique
Mise en place de contre-mesures : quantification des probabilités retournées (arrondi des logits), intégration de la confidentialité différentielle (DP-SGD), tatouage numérique (*watermarking*) des données et détection d'anomalies de requêtes avec des garde-fous & monitoring IA.