Fiche relue le .
Définition
Le MLSecOps (Machine Learning Security Operations) désigne l'intégration de la sécurité tout au long du cycle de vie des modèles de machine learning, de la collecte des données d'entraînement au déploiement et à la surveillance en production. C'est la transposition des principes DevSecOps au monde de l'IA : automatiser les contrôles de sécurité à chaque étape du pipeline plutôt que de les traiter après coup.
Pourquoi c'est important
Un modèle de ML possède sa propre chaîne d'approvisionnement : jeux de données, modèles pré-entraînés téléchargés depuis des hubs publics, dépendances, poids sérialisés. Chaque maillon est un vecteur d'attaque : empoisonnement des données, porte dérobée dans un modèle importé, désérialisation malveillante de fichiers de poids, dérive du modèle en production. Le MLSecOps répond à ces angles morts en ajoutant traçabilité, signature et vérification des artefacts, tests adverses et détection de dérive. À l'heure où l'IA passe en production dans les grands comptes, sécuriser le pipeline devient aussi critique que sécuriser le code applicatif. Concrètement, cela passe par un inventaire des modèles et de leurs versions, une nomenclature des composants (l'équivalent d'une SBOM appliquée à l'IA) et des tests rejoués à chaque réentraînement.
Ce que fait AOCSI
Nous aidons vos équipes data et MLOps à intégrer des contrôles de sécurité dans la chaîne d'entraînement et de déploiement : provenance des modèles, gestion des secrets, tests adverses et surveillance de la dérive. Cette approche relève de notre audit de sécurité IA.
Pôle de rattachementIA & CybersécuritéPrestations et prix