Un document peut contenir du texte qui essaie d'influencer le comportement du modèle. Traitez les contenus récupérés comme des données à analyser.
Limiter les capacités
L'application conserve les contrôles d'accès et les opérations autorisées. Une instruction dans un document ne doit pas accorder une nouvelle permission. Les secrets ne doivent pas être fournis au modèle sans nécessité justifiée.
Préparer des essais contradictoires
Ajoutez des documents de test demandant un accès interdit ou une action hors périmètre. Vérifiez réponse, références et appels aux outils. Un message de prévention seul ne suffit pas à prouver le contrôle.
Accepter des défenses vérifiables
Demandez les validations serveur et les erreurs observées. L'OWASP décrit le risque d'injection de prompt ; une recherche documentaire ne l'élimine pas automatiquement. Le partenaire doit montrer les limites opérationnelles du dispositif sur vos cas d'essai.
À lire aussi : Transcription IA dans un logiciel : faire corriger les noms et les décisions. Présentez votre périmètre à Sky Vaults.