Opérations

Mode WebSocket

Un mode d'interaction où un client maintient une connexion WebSocket persistante avec la plateforme IA — pour le streaming à faible latence, la voix en temps réel, la collaboration multi-tours et la rétroaction d'outils en direct.

Principe directeur

L'IA de production est un système : contexte, outils, permissions, traces, évaluations et boucles de rétroaction autour du modèle.

Ce que c'est

Le mode WebSocket est l'alternative au requête-réponse pour les charges IA qui exigent une communication bidirectionnelle à faible latence. Agents vocaux, interfaces de collaboration en temps réel et sessions d'agents de longue durée profitent tous d'une connexion persistante où le client et la plateforme échangent messages, requêtes d'outils et mises à jour de progression sans rétablir le contexte à chaque fois.

Pourquoi c'est important

Le requête-réponse HTTP convient aux questions-réponses ponctuelles. Pour la voix (où chaque 200 ms compte), pour la collaboration en direct (où l'agent et l'utilisateur tapent en même temps) et pour les sessions de longue durée (où le flux de progression compte), le WebSocket offre une expérience utilisateur nettement meilleure et un surcoût par appel plus faible.

Comment ça fonctionne

Le client ouvre un WebSocket vers la plateforme IA. La plateforme lie la connexion à une session (avec personnalité, mémoire et portée d'outils). Les deux côtés échangent des messages typés : entrée utilisateur, sortie du modèle (diffusée jeton par jeton), requêtes d'appels d'outils, résultats d'outils, mises à jour de statut. La session persiste pour la durée de la connexion. OpenAI Realtime, le streaming d'Anthropic et la plupart des plateformes vocales gérées utilisent ce patron.

Concepts liés

Runtime agent, Runtime de workflow, Plateforme IA, Cycle de vie des tâches.

Ressources connexes