Gouvernance
La couche de politiques pour l'accès aux données, les permissions d'outils, les approbations humaines, les pistes d'audit, la rétention et les frontières de déploiement — encodée comme configuration que le runtime applique, pas comme document que le runtime ignore.
L'IA de production n'est pas un prompt. C'est un système fait de contexte, d'outils, de permissions, de traces, d'évaluations et de boucles de rétroaction.
Autonomie avec frontières
Le bon niveau d'autonomie dépend du risque et de la réversibilité de l'action. Lire de la documentation interne : généralement autonome. Ouvrir un ticket : typiquement autonome. Envoyer un courriel externe, modifier des données de production, compléter une transaction financière : sous porte. Les niveaux de risque sont déclarés par outil dans le registre et par workflow dans le runtime, pas laissés au jugement du modèle.
Ce qui est appliqué
Accès aux données (quelles sources un agent ou un principal peut voir), permissions d'outils (quelles actions sont exposées et à quelle portée), portes d'approbation (quels appels exigent un humain), rétention d'audit (combien de temps les traces sont conservées et qui peut les lire), isolation des locataires, frontières de secrets et chemins de promotion de déploiement. Chaque règle est déclarative ; le runtime est ce qui la rend réelle.
- Contrôles d'accès hérités du graphe source
- Portées d'outils verrouillées dans le registre MCP
- Routage d'approbation pour les actions à risque
- Isolation des locataires et rétention par locataire
Standards auxquels nous mappons
SOC 2 Common Criteria pour les contrôles de sécurité et de confidentialité, le NIST AI Risk Management Framework pour l'identification et l'atténuation des risques, ISO/IEC 42001 pour les systèmes de management de l'IA, et les surcouches sectorielles (HIPAA, PCI DSS, Loi 25 du Québec / LPRPDE / RGPD) quand le mandat l'exige.
Ressources connexes
Portes d'approbation pour les workflows où la justesse, le risque ou la responsabilité exigent un jugement humain — conçues comme partie du workflow, pas comme bouton panique boulonné après coup.
Un catalogue gouverné d'outils — adossé au Model Context Protocol — avec schémas typés, portées de permissions, exigences d'approbation et pistes d'audit par invocation.
Une stratégie de passerelle pour choisir le bon modèle par tâche — selon la confidentialité, le coût, la latence, la qualité et le mode de défaillance — et basculer proprement quand un fournisseur se dégrade.