Fiche relue le .
Définition
L'injection de prompt (prompt injection) est une attaque qui consiste à insérer des instructions malveillantes dans l'entrée d'un LLM pour détourner son comportement du prompt système initial. Elle exploite le fait qu'un modèle ne distingue pas structurellement les instructions de confiance des données non fiables : tout se présente à lui comme du texte. On sépare l'injection directe, où l'utilisateur manipule lui-même le modèle, de l'injection indirecte, où la charge est cachée dans un contenu que le modèle va lire (page web, e-mail, document, ticket).
Pourquoi c'est important
C'est la vulnérabilité numéro un du référentiel OWASP Top 10 LLM (LLM01). Une injection réussie peut exfiltrer des données, contourner les filtres de modération, déclencher des actions non autorisées quand le modèle est connecté à des outils, ou empoisonner les réponses d'un chatbot public. Les architectures RAG et les agents IA autonomes amplifient le risque : dès qu'un LLM ingère du contenu externe ou peut agir (envoyer un mail, exécuter du code), une instruction cachée devient une porte d'entrée. Aucun correctif définitif n'existe aujourd'hui, seulement une défense en profondeur.
Ce que fait AOCSI
Chaque pentest IA et LLM comprend des scénarios d'injection directe et indirecte. Nous évaluons le cloisonnement entre instructions et données, la validation des sorties et le périmètre des outils exposés au modèle, puis nous documentons chaque contournement avec sa correction.
Pôle de rattachementIA & CybersécuritéPrestations et prix