Pôle d'expertise
Sécurité de l'intelligence artificielle : protéger vos IA, défendre votre SI
IA · 01
Qu'est-ce que la sécurité de l'IA ?
La sécurité de l'intelligence artificielle recouvre deux réalités distinctes qu'il faut traiter conjointement. La première est la sécurité DE l'IA : protéger les systèmes que vous concevez ou déployez - grands modèles de langage (LLM), agents autonomes, chaînes de récupération augmentée (RAG), pipelines de données et d'entraînement - contre des attaques qui ne ressemblent à aucune vulnérabilité applicative classique. La seconde est la sécurité FACE à l'IA : anticiper que l'attaquant, lui aussi, dispose désormais de l'IA pour augmenter le volume, la vitesse et la crédibilité de ses opérations.
Ces deux dimensions échappent aux référentiels traditionnels. Un modèle n'a pas de code source à durcir au sens usuel : il se compromet par le langage, par les données qu'il ingère et par les outils qu'on lui laisse actionner. AOCSI aborde ce périmètre avec la même rigueur offensive que pour un système d'information classique, mais avec un outillage et des référentiels spécifiques à l'IA.
IA · 02
L'IA augmente le risque cyber
Avant même de déployer une IA en interne, votre exposition change parce que les attaquants ont adopté l'IA générative. Les campagnes de phishing perdent leurs marqueurs habituels - fautes, tournures maladroites, incohérences de contexte - et gagnent en personnalisation à grande échelle. Le clonage vocal et les deepfakes vidéo rendent crédibles des scénarios de fraude au président ou d'usurpation d'identité qui reposaient auparavant sur des indices facilement détectables.
IA · 03
Sécuriser vos systèmes d'IA : LLM, agents et RAG
Dès qu'un LLM est branché sur vos données, vos outils ou vos clients, il devient un composant critique du système d'information. L'injection de prompt permet de détourner ses instructions ; une chaîne RAG mal cloisonnée expose des documents confidentiels ; un agent doté d'un accès trop large (envoi de courriels, exécution de code, appels d'API) peut être manipulé pour agir contre vos intérêts. À cela s'ajoute le Shadow AI : l'usage non gouverné d'outils d'IA grand public par vos collaborateurs, qui exfiltre données et secrets hors de votre périmètre.
IA · 04
Nos prestations en détail
AOCSI décline ce cocon en prestations mobilisables séparément ou en combinaison, de l'évaluation technique à la mise en conformité. Chaque volet donne lieu à des constats étayés, reproductibles et priorisés par le risque métier.
IA · 05
Notre méthode et nos référentiels
Nos évaluations s'appuient sur les référentiels de la profession appliqués à l'IA : l'OWASP Top 10 for LLM Applications pour les vulnérabilités des applications à base de modèles, le NIST AI Risk Management Framework pour la gouvernance du risque (fonctions Govern, Map, Measure, Manage), l'AI Act pour les obligations réglementaires et l'ISO/IEC 42001 pour le système de management. Nous croisons l'outillage offensif spécialisé avec la revue manuelle, car seule l'analyse humaine détecte les détournements de logique métier propres à un agent.
Nous mobilisons le Collectif AOCSI - notre réseau de chercheurs de typologies complémentaires - pour affecter à votre contexte les profils spécialistes de la sécurité des modèles et de l'apprentissage automatique. L'Indice AOCSI, notre système de scoring interne, objective la couverture de la mission et priorise les remédiations. AOCSI accompagne vers l'ISO 42001 et la conformité à l'AI Act, sans se prévaloir d'une certification qu'il ne détient pas.
IA · 06
Combien coûte la sécurisation de vos systèmes d'IA ?
AOCSI est le premier cabinet français à publier ses tarifs. Le prix dépend du périmètre : nombre de modèles ou d'applications à base de LLM, présence d'agents autonomes ou de chaînes RAG, profondeur de la mission (audit, pentest, red team) et volet de conformité éventuel. Le devis est transparent, sans revente de licence ni marge cachée, et s'articule avec nos autres prestations d'audit, de test d'intrusion et de RSSI externalisé.
Notre méthode
Une intervention cadrée, du premier échange au suivi.
La même rigueur à chaque mission, quel que soit le périmètre.
Cadrage
Périmètre, objectifs et règles d'engagement définis avec vous.
Intervention
Nos experts exécutent la mission : outillage et analyse manuelle.
Restitution
Rapport priorisé par le risque, synthèse direction et plan d'action.
Accompagnement
Suivi de la remédiation et contre-vérification des correctifs.
Notre expertise en détail
Chaque facette de ce pôle fait l'objet d'une prestation dédiée, menée par des experts seniors.
Prêt à y voir clair sur votre exposition ?
Échangez avec un expert senior. Cadrage gratuit, prix publics, aucun engagement.
Questions fréquentes
Quelle différence entre la sécurité de l'IA et la cybersécurité classique ?
La cybersécurité classique protège du code, des configurations et des réseaux. La sécurité de l'IA ajoute des vecteurs propres aux modèles : injection de prompt par le langage, empoisonnement des données d'apprentissage, détournement d'agents autonomes, fuite via le contexte. Ces attaques n'ont pas d'équivalent CVE et exigent des référentiels dédiés comme l'OWASP Top 10 LLM et le NIST AI RMF.
Qu'est-ce que l'injection de prompt (prompt injection) ?
L'injection de prompt consiste à insérer des instructions malveillantes dans les entrées d'un LLM pour détourner son comportement : contourner ses garde-fous, exfiltrer son prompt système ou des données, ou déclencher une action non prévue. Elle est dite indirecte lorsque l'instruction est cachée dans un contenu que le modèle consulte (page web, document, e-mail). C'est la vulnérabilité LLM01 de l'OWASP Top 10 for LLM Applications.
Qu'est-ce que le Shadow AI et pourquoi est-ce un risque ?
Le Shadow AI désigne l'usage d'outils d'IA générative grand public par vos collaborateurs, hors de tout cadre validé par la DSI. Le risque principal est la fuite de données : code source, données clients ou secrets copiés dans un service tiers échappent à votre gouvernance et peuvent alimenter l'entraînement de modèles externes. La réponse combine inventaire des usages, cadre d'usage et mesures de DLP.
AOCSI est-il certifié ISO 42001 ?
AOCSI accompagne les organisations vers la certification ISO/IEC 42001 et la conformité à l'AI Act, mais ne se présente pas comme certifié : la certification d'un système de management est délivrée par un organisme certificateur accrédité et indépendant. Notre rôle est de vous préparer à cet audit de certification par un tiers, pas de le remplacer.
L'IA rend-elle vraiment les cyberattaques plus dangereuses ?
Oui, sur le plan de l'échelle et de la crédibilité. L'IA générative supprime les marqueurs qui trahissaient le phishing, industrialise la personnalisation des leurres et rend les deepfakes vocaux et vidéo exploitables en fraude. Elle n'invente pas de vulnérabilité nouvelle mais abaisse le coût et le seuil de compétence des attaques, ce qui impose de renforcer sensibilisation et détection.