IA & Cybersécurité
Pentest IA et LLM : l'audit flash d'un assistant IA
Rappel sous 4 h ouvrées, lun.-ven. 9 h-18 h. Appel de cadrage gratuit et sans engagement.
- Sur devis
- Intervenant nommé dans la proposition, CV joint
- Aucune licence revendue
- Rappel sous 4 h ouvrées
IA · 01
Tester un assistant IA comme un attaquant
Un modèle de langage ne se casse pas comme une application web : il se manipule par le langage. Nous confrontons votre assistant à des instructions malveillantes directes, et indirectes quand elles sont cachées dans un document, une page ou un courriel qu'il consulte. Nous essayons de contourner ses consignes et, s'il peut actionner des outils, de lui faire faire ce qu'il ne devrait pas.
L'objectif est de montrer un chemin concret : une fuite de données, une action non autorisée, un contournement des règles métier. Chaque réussite est prouvée par l'échange complet, rejouable par vos équipes.
IA · 02
Le périmètre de l'audit flash
L'audit flash porte sur un assistant ou un agent, dans son environnement réel ou de test. Il suit l'OWASP Top 10 for LLM Applications (version 2025), adapté à ce que fait l'assistant :
Injection de prompt directe et indirecte (LLM01).
Divulgation d'informations sensibles et fuite du prompt système (LLM02, LLM07).
Traitement non sécurisé des sorties du modèle (LLM05).
Autonomie excessive : outils, permissions et actions détournables (LLM06).
Faiblesses des bases vectorielles et des sources d'une chaîne RAG (LLM08).
Consommation incontrôlée et coûts provoqués par un attaquant (LLM10).
IA · 03
Ce que vous recevez
Chaque scénario testé, réussi ou non, avec l'échange complet en preuve.
Le niveau de risque de chaque faille, au regard de ce que l'assistant peut lire et faire.
Les corrections : consignes système, filtres en entrée et en sortie, cloisonnement des sources, permissions minimales des outils, validation humaine des actions sensibles, journalisation.
Une synthèse pour la direction et une restitution à l'équipe produit ou aux développeurs.
Un contre-test des scénarios qui ont réussi, après vos corrections.
L'audit flash est sur devis : le prix dépend du nombre de fonctions, de sources de données et d'outils connectés à l'assistant. Après un appel de 20 minutes, la proposition arrive sous 48 h ouvrées, avec un prix forfaitaire, la durée en jours et le nom de l'intervenant. Un assistant qui répond à des questions sans outil connecté se teste vite ; un agent qui agit sur vos systèmes demande davantage de scénarios.
Cas type
Pour illustration : un assistant de support client branché sur une base de 2 000 articles et sur l'outil de tickets. Scénarios testés : injection directe, injection indirecte au moyen d'un article piégé, tentative de lire les tickets d'autres clients, tentative de créer ou de clore des tickets sans demande de l'utilisateur.
IA · 05
Ce que nous attendons de vous
Un accès à l'assistant, de préférence dans un environnement de test, avec un compte par type d'utilisateur.
La description des sources de données et des outils connectés.
Le prompt système et la configuration, si vous choisissez un test en boîte blanche.
L'autorisation de test signée par une personne habilitée.
Les conditions d'utilisation de votre fournisseur de modèle ou de plateforme, que nous vérifions ensemble avant de commencer.
Déroulé
Comment se déroule la prestation
Les dates et le volume de travail figurent dans la proposition, avec le nom de l'intervenant.
- 01
Cadrage
Appel de 20 minutes : ce que fait l'assistant, à quelles données et à quels outils il accède, qui l'utilise.
- 02
Proposition
Périmètre, scénarios, dates, prix et nom de l'intervenant, CV joint, sous 48 h ouvrées.
- 03
Tests
Injection de prompt directe et indirecte, fuite de données, actions non prévues, contournement des garde-fous. Tout est journalisé.
- 04
Restitution
Rapport avec les échanges qui prouvent chaque faille, niveau de risque et corrections : consignes, filtres, cloisonnement, permissions.
- 05
Contre-test
Les scénarios qui ont réussi sont rejoués après vos corrections.
Le pôle IA & Cybersécurité
La vue d'ensemble du pôle et les prestations voisines, avec leurs prix hors taxes.
Questions fréquentes
Le pentest LLM se fait-il en boîte noire ou en boîte blanche ?
Les deux sont possibles. La boîte noire simule un attaquant qui ne connaît que l'interface ; la boîte blanche, avec accès au prompt système, à l'orchestration et aux outils, couvre plus en moins de temps. Le cadrage fixe l'approche selon vos objectifs.
Testez-vous aussi les agents et les chaînes RAG ?
Oui : assistants simples, agents qui actionnent des outils, orchestrations en plusieurs étapes et chaînes RAG. Pour un objectif adverse poursuivi sur plusieurs composants à la fois, la red team IA prolonge le pentest.
Faut-il arrêter l'assistant en production ?
Non. Nous préférons un environnement de test identique à la production. Si les tests se font en production, ils évitent toute action réelle (envoi, paiement, suppression) et se déroulent dans une fenêtre convenue.
Les tests vont-ils consommer nos crédits d'API ?
Oui, dans un volume limité. L'ordre de grandeur est indiqué dans la proposition, et vous pouvez fixer un plafond chez votre fournisseur pendant la mission.
Qui signe l'autorisation de test ?
Le représentant légal de l'organisation, ou une personne qui a délégation. Si l'assistant repose sur une plateforme tierce, nous vérifions ensemble ses conditions d'utilisation avant de commencer.
Un appel de 20 minutes suffit pour cadrer votre besoin
Nous rappelons sous 4 h ouvrées, du lundi au vendredi, de 9 h à 18 h. La proposition écrite suit sous 48 h ouvrées : périmètre, prix, dates, nom et CV de l'intervenant.