Injection de prompt
prompt injection · injection d’instructions · injection indirecte de prompt · jailbreak · LLM01
Attaque qui glisse des instructions dans le texte traité par une IA générative (message, page web, document, e-mail) pour lui faire ignorer ses consignes et agir au profit de l’attaquant.
En pratique
Un grand modèle de langage ne distingue pas de façon fiable les consignes de son concepteur des données qu’il lit. L’injection est directe quand l’utilisateur tape lui-même les instructions, indirecte quand elles sont cachées dans un contenu que l’IA consulte. Le risque change d’échelle quand l’assistant peut agir : envoyer des e-mails, lire des fichiers, appeler des API. C’est le premier risque (LLM01:2025) de l’OWASP Top 10 for LLM Applications, qui admet ne pas savoir s’il existe une parade infaillible.
Exemple fictif : un assistant IA résume les e-mails d’une directrice financière. Un message reçu contient, en texte blanc sur fond blanc, une consigne demandant de transférer les derniers relevés bancaires à une adresse externe. Si l’assistant peut envoyer des e-mails sans validation humaine, il risque d’obéir.
Comment s’en protéger
- Donner à l’IA les droits minimaux et exiger une validation humaine pour toute action sensible.
- Traiter tout contenu externe (web, documents, e-mails) comme non fiable et le séparer clairement des instructions.
- Contrôler les réponses de l’IA avec du code déterministe avant de les utiliser.
- Éprouver régulièrement vos assistants par des tests d’attaque dédiés.
