OWASP LLM Top 10
L'OWASP LLM Top 10 est le classement faisant autorité des vulnérabilités les plus critiques dans les modèles de langage. Il guide les équipes de red teaming, les développeurs et les auditeurs dans la priorisation du travail de sécurité.
Voir le flux de travail →Les Quatre Phases
Une attaque suit un processus reproductible et documenté.
- Modélisation de menace
- Évaluation d'impact
- Priorisation
- Remédiation
Concepts Fondamentaux
Les fondations de la compréhension de ces vulnérabilités et contrôles.
Les Dix Risques Critiques
OWASP classe dix catégories de vulnérabilités par prévalence et sévérité. Chacune correspond à des techniques d'attaque réelles : injection de prompt, gestion de sortie non sécurisée, empoisonnement de données d'entraînement, déni de service du modèle et plus. Comprendre le classement aide à concentrer l'investissement en sécurité.
- LLM01 : Injection de Prompt — casser les instructions du modèle
- LLM02 : Gestion de Sortie Non Sécurisée — exécution de code via la sortie LLM
- LLM03 : Empoisonnement de Données d'Entraînement — manipuler le comportement du modèle
- LLM04 : Déni de Service du Modèle — attaques par épuisement de ressources
Cartographier les Risques à la Remédiation
Chaque risque nécessite des stratégies de détection et de prévention spécifiques. L'injection de prompt a besoin de validation d'entrée ; l'empoisonnement a besoin de provenance des données ; le DoS a besoin de limitation de débit. Le Top 10 fournit la feuille de route.
- Détection : identifier quels risques affectent votre application
- Test : faire du red team sur chaque catégorie de risque systématiquement
- Contrôles : implémenter les garde-fous, la surveillance et la réponse d'incident
- Gouvernance : suivre la remédiation et la conformité au fil du temps
Le Flux de Travail de Mise en Œuvre
Chaque phase est méthodique et reproductible. Aucune phase n'est sautée ; chacune a des objectifs clairs.
Comprendre chaque catégorie de risque
Lire les entrées de l'OWASP LLM Top 10. Les cartographier à votre architecture.
Évaluer l'exposition dans vos systèmes
Quels risques s'appliquent à votre cas d'usage ? Modèle ? Déploiement ?
Prioriser les correctifs par impact commercial
L'injection affecte-t-elle les données des clients ? Le DoS impacte-t-il la disponibilité ?
Implémenter les contrôles et tester à nouveau
Déployer les atténuations, vérifier l'efficacité, mettre à jour votre registre de risques.
Pages Associées
Approfondissements sur les sujets d'attaque et défense connexes.
Red Teaming LLM
Test systématique de tous les dix risques via des campagnes de red team.
Injection de Prompt
Approfondissement dans OWASP 01 et stratégies de détection.
Extraction de Modèle & Attaques de Vie Privée
Couvrir l'extraction et les risques de confidentialité (LLM09).
MITRE ATLAS
Lier les risques OWASP aux tactiques et techniques adversarielles.