Humain dans la boucle
Un patron de conception où un humain révise, approuve ou corrige les décisions de l'IA à des points précis d'un workflow — concentré là où le jugement compte, pas appliqué uniformément.
L'IA de production est un système : contexte, outils, permissions, traces, évaluations et boucles de rétroaction autour du modèle.
Ce que c'est
L'humain dans la boucle (HITL) est la pratique de concevoir les workflows d'IA pour que les humains interviennent à des points choisis plutôt que partout. L'objectif est de placer le jugement humain là où il ajoute réellement de la valeur — décisions à fort impact, sorties à faible confiance, cas limites que le système n'a pas vus — et de laisser l'agent traiter tout le reste.
Pourquoi c'est important
« Réviser chaque sortie de l'IA » est la forme paresseuse du HITL, et elle s'effondre sous le volume. « Aucune revue humaine » est la forme dangereuse, et elle se fait rattraper par un échec évitable. Une bonne conception HITL est la discipline de choisir les bons points d'inflexion et de les acheminer vers une file qui passe à l'échelle.
Concepts liés
Approbation humaine, Porte d'approbation, Boîte d'approbations, Capture des corrections, Revue de risque.
Ressources connexes
Portes d'approbation pour les workflows où la justesse, le risque ou la responsabilité exigent un jugement humain — conçues comme partie du workflow, pas comme bouton panique boulonné après coup.
Un point d'un workflow d'IA où une action est suspendue jusqu'à ce qu'un humain la révise et l'approuve, la rejette ou la modifie.
Un patron de workflow IA de production relié aux données, aux agents, aux évaluations et aux opérations.
Un patron de workflow IA de production relié aux données, aux agents, aux évaluations et aux opérations.
Un patron de workflow IA de production relié aux données, aux agents, aux évaluations et aux opérations.
Comment ça fonctionne
Des portes d'approbation sur les actions à haut risque ; une escalade à faible confiance quand le modèle signale de l'incertitude ; une revue par échantillonnage des cas résolus automatiquement ; une capture des corrections qui renvoie les sorties rejetées dans le jeu d'évaluations. La combinaison produit un système qui devient plus silencieux avec le temps, à mesure que le jeu d'évaluations grandit.