Sécurité de la Chaîne d'Approvisionnement IA
Un attaquant peut empoisonner votre chaîne d'approvisionnement IA en compromettant les dépendances, les checkpoints de modèle ou les pipelines de déploiement. Les attaques de la chaîne d'approvisionnement visent le maillon faible : les sources fiables mais non contrôlées.
Voir le flux de travail →Les Quatre Phases
Une attaque suit un processus reproductible et documenté.
- Analyse de dépendances
- Vérification de checkpoints
- Durcissement pipeline
- Réponse d'incident
Concepts Fondamentaux
Les fondations de la compréhension de ces vulnérabilités et contrôles.
La Surface d'Attaque de la Chaîne
Trois points d'entrée critiques existent dans les systèmes d'IA : les dépendances de paquets (npm, PyPI, GitHub), les checkpoints de modèle (poids pré-entraînés, snapshots) et les pipelines de déploiement (CI/CD, registres de conteneurs). Chacun peut être empoisonné.
- Empoisonnement de dépendances : paquets malveillants se faisant passer pour des paquets légitimes
- Falsification de checkpoints : substitution de poids ou insertion de backdoors
- Compromission de registre : images de conteneurs avec malware intégré
- Typosquatting : noms similaires à des paquets populaires
Stratégie de Durcissement de Chaîne
Le durcissement nécessite une vérification cryptographique à chaque étape : versions signées, dépendances checksumées, attestations de provenance du modèle et versions verrouillées. Ne faites confiance à rien ; vérifiez tout.
- Signature cryptographique des dépendances et modèles
- SBOM (Software Bill of Materials) et cartes de modèle
- Attestation de provenance et constructions reproductibles
- Isolation et sandboxing lors de l'import/déploiement
Le Flux de Travail de Mise en Œuvre
Chaque phase est méthodique et reproductible. Aucune phase n'est sautée ; chacune a des objectifs clairs.
Audit de l'inventaire de chaîne
Cataloguer toutes les dépendances, les modèles et les sources de données. Identifier les origines et les fréquences de mise à jour.
Implémenter la vérification cryptographique
Exiger des checksums signés, des attestations et des certificats pour toutes les sources en amont.
Durcir le pipeline de déploiement
Verrouiller les versions, restreindre l'accès au registre, scanner les vulnérabilités connues.
Surveiller et répondre
Suivre les modifications, détecter les anomalies, établir une réponse d'incident pour les sources compromises.
Pages Associées
Approfondissements sur les sujets d'attaque et défense connexes.
Extraction de Modèle & Attaques de Vie Privée
Protection des checkpoints de modèle contre le vol et la falsification.
Empoisonnement de Données & Backdoors
Attaques en phase d'entraînement qui persistent à travers la chaîne d'approvisionnement.
Gouvernance IA & AI Act
Exigences réglementaires pour la provenance du modèle et les pistes d'audit.
OWASP LLM Top 10
La sécurité de la chaîne comme contrôle fondamental.