Fiche relue le .
Définition
Un agent IA autonome est un système bâti autour d'un LLM, capable de planifier et d'exécuter des tâches de bout en bout en enchaînant des appels à des outils (API, navigateur web, système de fichiers, exécution de code) avec un minimum d'intervention humaine. Là où un chatbot répond, un agent agit : il décompose un objectif, choisit ses actions et boucle jusqu'au résultat.
Pourquoi c'est important
Le passage de l'IA qui répond à l'IA qui agit change la nature du risque. Un agent connecté à des outils dispose de véritables privilèges : il peut envoyer des e-mails, modifier des données, déclencher des transactions, exécuter du code. Une injection de prompt indirecte devient alors une exécution de commande à distance par procuration. Les enjeux se cumulent : périmètre de permissions trop large, absence de validation humaine sur les actions sensibles, chaînage d'agents difficile à tracer, confusion entre données et instructions. Les architectures multi-agents se déploient plus vite que les contrôles de sécurité censés les encadrer. Le principe du moindre privilège, souvent oublié côté IA, y est déterminant.
Ce que fait AOCSI
Nous auditons vos agents IA sous l'angle des permissions, du cloisonnement des outils et des points de validation humaine, puis nous éprouvons leurs garde-fous par des scénarios offensifs. Cette évaluation relève de notre audit de sécurité IA et peut se compléter d'un pentest IA et LLM de l'application qui héberge l'agent.
Pôle de rattachementIA & CybersécuritéPrestations et prix