Fiche relue le .
Définition
Un LLM (large language model, ou grand modèle de langage) est un réseau de neurones fondé sur l'architecture transformer, entraîné sur d'immenses corpus de texte pour prédire le prochain jeton et générer du langage naturel. GPT, Claude, Llama ou Mistral en sont les représentants connus. Sa sortie est probabiliste, pas déterministe : le modèle produit une réponse plausible, sans garantie d'exactitude, ce qui explique le phénomène d'hallucination.
Pourquoi c'est important
Les LLM ne sont plus des démonstrateurs mais des composants de production, intégrés dans des copilotes internes, des chatbots clients et des assistants de code. Ils ouvrent une surface d'attaque inédite : injection de prompt, fuite de données sensibles via le contexte, exfiltration de secrets, déni de service par explosion des coûts de calcul. Leur caractère non déterministe complique le test, car deux exécutions identiques peuvent diverger et les méthodes de recette classiques ne suffisent plus. S'ajoute un risque de confidentialité quand les données métier transitent par un fournisseur tiers hébergé hors de l'Union européenne. Le choix entre modèle propriétaire consommé en API et modèle ouvert hébergé en interne engage directement la surface de risque, la maîtrise des données et la dépendance fournisseur.
Ce que fait AOCSI
Nous cartographions vos intégrations LLM, modélisons les menaces propres à chaque cas d'usage et testons la robustesse des garde-fous avant la mise en production. Selon le besoin : audit de sécurité IA pour l'architecture et le cloisonnement des données, pentest IA et LLM pour éprouver l'application.
Pôle de rattachementIA & CybersécuritéPrestations et prix