MITRE ATLAS
MITRE ATLAS est une base de connaissances des tactiques, techniques et procédures (TTP) adversarielles spécifiques à l'apprentissage automatique. Il traduit les attaques du monde réel en une taxonomie structurée pour la planification de la défense.
Voir le flux de travail →Les Quatre Phases
Une attaque suit un processus reproductible et documenté.
- Reconnaissance
- Développement de ressource
- Livraison & exécution
- Impact & exfiltration
Concepts Fondamentaux
Les fondations de la compréhension de ces vulnérabilités et contrôles.
Tactiques et Techniques ATLAS
ATLAS couvre huit tactiques principales : Reconnaissance (collecte d'informations sur les systèmes ML), Développement de ressource (construction d'infrastructure d'attaque), Livraison (introduction d'attaques dans le système), Exécution, Persistance et Impact. Chaque tactique contient des techniques spécifiques.
- Reconnaissance : scanner les modèles ML, sonder les vulnérabilités
- Développement de ressource : développer le code d'exploitation, construire des modèles de substitution
- Livraison : télécharger des données empoisonnées, injecter des prompts, distribuer des backdoors
- Exécution : déclencher des attaques lors du fonctionnement normal du modèle
Cartographier Votre Pipeline ML à ATLAS
Chaque composant ML est une surface d'attaque potentielle cartographiée dans ATLAS : pipeline de données (empoisonnement), entraînement (backdoors), inférence (évasion) et déploiement (chaîne d'approvisionnement). Le cadre vous aide à identifier quelles techniques s'appliquent à vos systèmes.
- Identifier les techniques à haut risque spécifiques à votre architecture
- Concevoir la détection et la prévention pour chaque technique
- Établir des procédures de surveillance et de threat hunting
- Documenter les TTP et maintenir une cartographie threat-to-defense
Le Flux de Travail de Mise en Œuvre
Chaque phase est méthodique et reproductible. Aucune phase n'est sautée ; chacune a des objectifs clairs.
Cartographier votre pipeline ML à ATLAS
Entrée de données → Entraînement → Service du modèle → Sortie. Quelles tactiques s'appliquent à chaque étape ?
Identifier les techniques à haut risque
Quelles techniques posent la plus grande menace pour votre application ? Données ? Intégrité du modèle ? Disponibilité ?
Concevoir la détection et la prévention
Pour chaque technique à haut risque, déployer la surveillance, la détection d'anomalies et les contrôles d'accès.
Documenter les réponses aux menaces
Maintenir un playbook : TTP → Détection → Réponse. Mettre à jour en fonction des résultats du red team.
Pages Associées
Approfondissements sur les sujets d'attaque et défense connexes.
OWASP LLM Top 10
Risques OWASP cartographiés aux tactiques et techniques ATLAS.
Audit IA & Cadre de Méthode
Méthodologie de test alignée avec les TTP ATLAS.
Red Teaming LLM
Campagnes structurées pour valider la couverture technique d'ATLAS.
Gouvernance IA & AI Act
Intégration ATLAS dans l'audit réglementaire et la conformité.