Injection de Prompt
L'injection de prompt incorpore des commandes d'attaque dans l'entrée utilisateur, les prompts systèmes ou le contexte récupéré. Un attaquant trompe le modèle pour qu'il suive les instructions injectées au lieu de la tâche originale.
Voir le flux de travail →Les Quatre Phases
Une attaque suit un processus reproductible et documenté.
- Identification de vecteur
- Conception de charge
- Exécution
- Confinement
Concepts Fondamentaux
Les fondations de la compréhension de ces vulnérabilités.
Pourquoi l'injection de prompt compte
Un modèle suit les instructions. Si ces instructions proviennent de sources non fiables—entrée utilisateur, réponses API, enregistrements de base de données—un attaquant peut remplacer la tâche originale. L'injection de prompt est l'attaque LLM la plus fiable.
- Rediriger le comportement du modèle via une entrée malveillante
- Contourner les directives de sécurité et les politiques de contenu
- Extraire des informations sensibles via manipulation de prompt
- Chaîner les attaques : injection → exfiltration de données → exécution de code
Méthodologie d'attaque par injection
L'injection de prompt a trois formes : directe (l'utilisateur fournit un prompt malveillant), indirecte (l'attaquant contrôle une source de données) et injection RAG (attaque cachée dans le contexte récupéré). Chacune nécessite une détection et une atténuation différentes.
- Injection directe : remplacement de prompt, marqueurs de jailbreak
- Injection indirecte : réponses API empoisonnées, enregistrements de base de données
- Injection RAG : attaques dans les documents récupérés ou les résultats de recherche
- Chaînage : injections multiples entre les appels d'outils
Le Flux de Travail d'Attaque
Chaque phase est méthodique et reproductible. Aucune phase n'est sautée ; chacune a des objectifs clairs.
Cartographier les vecteurs d'injection
Quelles sources de données le modèle fait-il confiance ? Où l'entrée n'est-elle pas désinfectée ?
Concevoir les charges utiles
Créer des commandes d'injection qui remplacent la tâche originale.
Exécuter les attaques
Tester les injections avec différentes charges utiles et contextes.
Implémenter les atténuations
Ajouter la validation d'entrée, les clauses de non-responsabilité de prompt, l'isolement.
Pages Associées
Approfondissements sur les sujets d'attaque et défense connexes.
Red Teaming LLM
Campagnes structurées pour trouver les vulnérabilités d'injection.
Audit de Sécurité des Agents IA
Les agents qui utilisent des outils vulnérables à l'injection de prompt.
Audit IA & Cadre de Méthode
Méthodologie de test pour la robustesse d'injection.
OWASP LLM Top 10
Injection de prompt comme OWASP 04 - Gestion des Sorties Non Sécurisées.