Approbation humaine
Portes d'approbation pour les workflows où la justesse, le risque ou la responsabilité exigent un jugement humain — conçues comme partie du workflow, pas comme bouton panique boulonné après coup.
L'IA de production n'est pas un prompt. C'est un système fait de contexte, d'outils, de permissions, de traces, d'évaluations et de boucles de rétroaction.
Garder l'humain là où il compte
Le design avec humain dans la boucle, ce n'est pas « revoir chaque sortie ». Ce patron s'effondre sous le volume et finit en tampon-caoutchouc. La discipline est d'encoder la revue là où le risque, la confiance, le coût ou la politique l'exigent vraiment — actions à fort impact, sorties à faible confiance, cas limites que le modèle n'a pas vus — et de laisser le reste s'exécuter.
Mécanique
Les approbations sont routées vers une boîte nommée avec contexte complet : l'événement déclencheur, ce que l'agent propose, pourquoi, et la trace qui y a mené. Le réviseur peut approuver, rejeter avec raison ou modifier la proposition. Les événements de rejet et de modification alimentent le jeu d'évaluations afin que la même classe de décision devienne auto-gérée avec le temps. Les approbations ont des SLA ; les demandes expirées suivent une action par défaut documentée.
Où nous traçons la ligne
Pas un substitut aux évaluations. Pas une façon de livrer un workflow non sécuritaire avec un humain comme feuille de vigne. Le jeu d'évaluations prouve que le workflow est suffisamment sûr pour être déployé ; les approbations traitent les cas résiduels que le workflow ne peut pas décider seul.
Ressources connexes
La couche d'exécution des agents événementiels : déclencheurs, routage, appels d'outils, état durable, approbations, reprises, traces et contrôles de déploiement — la substance de production derrière une UI de chat.
La couche de politiques pour l'accès aux données, les permissions d'outils, les approbations humaines, les pistes d'audit, la rétention et les frontières de déploiement — encodée comme configuration que le runtime applique, pas comme document que le runtime ignore.
Une visibilité au niveau des traces sur les appels de modèle, le retrieval, les outils, les décisions, les approbations, les coûts et les échecs — le substrat opérationnel que toute autre discipline (évaluations, optimisation, gouvernance) consulte.