Pitstop Le pit stop
Humain dans la boucle (human in the loop) pour les agents IA, bien fait
L’humain dans la boucle (human in the loop, HITL) veut dire qu’une personne valide l’action d’un système d’IA avant qu’elle prenne effet. Pour des agents qui écrivent aux clients, publient ou contactent des candidats, la personne valide cette action précise, et le système peut montrer ensuite que ce qui est parti est bien ce qui a été validé.
Équiper mon cabinet- L2ValidationAgit après le oui d'un humainAttend un oui
Empreinte du contenu
5952…ed67
Message d'exemple, empreinte calculée dans votre navigateur. Validez-le, puis changez un mot.
- L’agent rédigeun mail, un post, un point client
- Il s’arrête à la barrièreL2 : tout ce qui sort du cabinet attend
- Une personne dit ouiau texte exact, avec son empreinte
- Il part, ou nontoute retouche après le oui l’annule
Les niveaux d’autonomie
Réglés par agent et par type d’action. Quel que soit le réglage, tout ce qui sort du cabinet s’arrête en L2 et attend une personne. Choisissez un niveau.
Pourquoi « quelqu’un a relu » ne suffit pas
La plupart des dispositifs s’arrêtent à la première moitié : quelqu’un relit un brouillon, mais rien ne prouve ce qui s’est passé ensuite. Trois choses cassent entre la relecture et l’envoi :
- Le texte change après la relecture. Quelqu’un ajoute une ligne, l’agent régénère un paragraphe. La version validée et la version envoyée ne sont plus les mêmes, et personne ne le voit.
- La validation vit dans une conversation. « Ça me va » dans un chat n’est rattaché à rien. On ne peut ni le vérifier, ni le retrouver, ni le montrer à un client.
- L’agent peut se valider lui-même. Si le même accès permet à l’agent de demander et de décider, l’étape humaine devient facultative.
Claire, votre travail sur le réseau d'entrepôts de Rhône-Alpes a retenu mon attention. L'un de nos clients construit la même chose à plus grande échelle et cherche son prochain directeur financier. Seriez-vous ouverte à un échange de 15 minutes cette semaine ? P.S. Notre client est votre ancien employeur.
Quelqu’un a relu
- BrouillonL’agent écrit l’approche.
- « Ça me va »Un associé répond dans un chat.
- Une ligne s’ajouteAprès la relecture, avec le nom du client.
- EnvoyéCe n’est plus le texte relu, et personne ne le voit.
Un pit stop
- BrouillonEmpreinte
5952…ed67 - ValidéLe oui désigne
5952…ed67 - Une ligne s’ajouteDésormais
fe96…9d61: le oui ne compte plus - Bloquécontent_changed_after_approval : l’agent redemande
Même modification, deux issues. Dans la première colonne, un client confidentiel est nommé dans un message parti. Dans la seconde, l’envoi s’arrête et l’agent redemande.
C’est ce que nous appelons le trou de relecture. Un dispositif sérieux d’humain dans la boucle bouche les trois.
Humain dans la boucle ou humain sur la boucle
La plupart des cabinets ont besoin des deux, action par action. C’est pour cela que Pitstop règle l’autonomie par agent et par type d’action, et plafonne tout ce qui sort du cabinet à « valider d’abord ».
La même approche de Claire M., avec deux réglages.
Humain dans la boucle
- L’agent rédige l’approche de Claire M.
- Il s’arrête au pit stop et attend
- L’associé valide le texte exact
- Envoyé, avec l’empreinte validée
Rien n’est sorti du cabinet avant qu’une personne dise oui à ce texte exact.
Humain sur la boucle
- L’agent rédige l’approche de Claire M.
- Envoyé aussitôt
- Une relectrice voit le mauvais nom de société
- Trop tard : Claire l’a lu
Quelqu’un a regardé, une fois le message parti.
Exemple, avec un message type.
Comparer en détail
| Question | Humain dans la boucle | Humain sur la boucle |
|---|---|---|
| Quand la personne agit | Avant que l’action parte | Après, en surveillant |
| Ce que l’agent peut faire seul | Rien de ce qui demande une validation | Tout, jusqu’à ce que quelqu’un l’arrête |
| Convient à | Tout ce qui sort du cabinet : mails aux clients, approches de candidats, posts | Le travail interne et réversible : recherche, tri, premiers jets |
| Risque principal | La lassitude, si tout demande un oui | Le mauvais message est déjà parti |
Ce qu’exige un dispositif sérieux
- Un lien entre le oui et le contenu. La validation désigne le contenu exact, donc toute modification l’annule.
- La séparation des pouvoirs. Les agents demandent. Seules les personnes décident.
- Un journal que personne ne retouche en silence. Qui a demandé, qui a décidé, quoi et quand, dans un journal où toute retouche se voit.
- Des niveaux plutôt qu’un interrupteur. Lecture seule, suggestion, validation, agit et rend compte, autonome : réglés action par action.
- Une décision rapide. Parce que si valider prend cinq minutes, les gens arrêtent de le faire.
Comment marche un pit stop, étape par étape
Pitstop est un serveur MCP distant que vos agents appellent depuis ChatGPT, Claude ou Codex. Voici un pit stop, de la demande à la preuve.
- 01
L’agent se connecte
Avec un OAuth standard (PKCE). Le droit qu’il reçoit,
pitstops:agent, lui permet de demander des validations, d’en lire le statut et de déclarer ce qu’il a exécuté. L’écran de consentement le dit en toutes lettres : il ne peut ni valider, ni modifier, ni refuser quoi que ce soit. - 02
L’agent demande
Il appelle Demander une validation humaine avec le contenu, le type d’action (un envoi externe, une publication, une tâche interne) et les conséquences attendues. Pitstop calcule l’empreinte SHA-256 du contenu.
- 03
Pitstop applique le niveau de l’agent
En L0, la demande est refusée. En L1 et L2, elle attend une personne. En L3 et L4, les tâches internes sont validées dès la demande et entrent au journal. Les envois externes et les publications attendent toujours une personne.
- 04
Une personne décide
Dans la boîte Validations, sur ordinateur ou téléphone : valider, modifier (avec les écarts ligne à ligne) ou refuser (un motif est obligatoire et repart vers l’agent). La décision porte l’empreinte que la personne a vue. Si le contenu a changé entre-temps, la décision est rejetée et l’écran le dit.
- 05
Quelqu’un hors du cabinet peut aussi décider
Un lien de validation à usage unique permet à un client ou à un collègue sans compte de valider cette seule demande.
- 06
L’agent exécute et rend compte
Il lit la décision, utilise le contenu validé (ou modifié) et inscrit l’exécution au journal avec l’empreinte validée. Une autre empreinte annule la validation :
content_changed_after_approval. - 07
Le journal le prouve
Chaque événement est chaîné au précédent par son empreinte. « Vérifier la chaîne » la recalcule et signale tout trou ou toute ligne modifiée. Export CSV ou JSON.
pitstops:agent
Ce que permet l’accès d’un agent
- Demander une validation humaine
- Lire le statut de ses demandes
- Déclarer ce qu’il a exécuté, avec l’empreinte
- Valider une demande
- Modifier le contenu
- Refuser à la place de quelqu’un
Le construire vous-même : ce que donne chaque framework
Trois façons courantes de mettre un agent en pause pour une personne. Chacune donne la pause. Aucune, à elle seule, ne rattache le oui au contenu exact ni ne garde un journal qu’un client peut vérifier.
| Framework | Comment il met en pause | Ce qu’il vous reste à construire |
|---|---|---|
| LangGraph | interrupt() dans un nœud arrête le graphe, un checkpointer garde son état, et Command(resume=…) sur le même thread_id le relance. | Le lien entre la décision et le texte exact, une boîte de validation pour des personnes qui ne codent pas, et un journal que personne ne retouche en silence. |
| OpenAI Agents SDK | Un outil déclaré avec needsApproval arrête l’exécution. Les appels en attente sont listés dans result.interruptions ; state.approve() ou state.reject(), puis une nouvelle exécution, la relance. | Les trois mêmes. |
| Élicitation MCP | Pendant un appel d’outil, le serveur envoie elicitation/create pour interroger l’utilisateur, qui accepte, décline ou annule. | Qui a le droit de décider (n’importe qui chez le client peut répondre), l’empreinte et le journal. |
Sources : LangGraph, interrupts · OpenAI Agents SDK (JavaScript), human in the loop · MCP specification 2025-06-18, elicitation. Vérifié le 10 octobre 2026.
Éviter que la validation devienne un tampon
La lassitude est le risque principal de l’humain dans la boucle : quand tout demande un oui, plus personne ne lit. Cinq habitudes gardent donc le oui utile.
- Ne demander que là où cela compte. Le travail interne et réversible peut tourner en L3 et entrer au journal. Seul ce qui sort du cabinet attend une personne.
- Décider en une fois. Une seule boîte rassemble les demandes, donc un associé décide des approches du matin d’un coup au lieu d’être interrompu toute la journée.
- Montrer ce qui a changé. Une modification arrive avec ses écarts ligne à ligne : la personne relit la différence, pas tout le texte.
- Faire apprendre les refus. Un refus demande un motif, et ce motif repart vers l’agent avec la demande.
- Contrôler les oui, pas seulement les envois. Chaque demande et chaque décision portent leur heure au journal. Une série de oui donnés quelques secondes après chaque demande veut dire que personne ne lit.
Ce que demande le règlement européen sur l’IA (AI Act)
L’article 14 de l’AI Act exige que les systèmes d’IA à haut risque soient conçus pour qu’une personne puisse les surveiller efficacement.
- Comprendre les limites. Les personnes responsables doivent savoir ce que le système sait faire ou non, et repérer quand il se comporte de façon anormale.
- Résister au biais d’automatisation. Elles doivent rester attentives à la tendance à trop se fier au résultat.
- Écarter et corriger. Elles doivent pouvoir décider de ne pas utiliser le résultat, ou le corriger, ou revenir dessus.
- L’arrêter. Elles doivent pouvoir interrompre le système.
L’annexe III classe parmi les usages à haut risque l’IA utilisée pour le recrutement ou la sélection, y compris pour évaluer des candidats. Un agent qui rédige un brief de réunion n’est pas sur cette liste ; un agent qui classe des candidats peut l’être. Un pit stop couvre une partie de l’obligation : une personne peut refuser ou modifier avant que quoi que ce soit parte, et le journal montre ce qui a été décidé. Il ne rend pas, à lui seul, un système conforme.
Sources : AI Act, article 14 · annexe III, point 4.
Une preuve que vous vérifiez ligne par ligne
- Chaque événement est inscrit. Demandes, décisions, exécutions et comptes rendus, chacun avec son heure, son auteur et l’empreinte du contenu.
- Chaque ligne est chaînée à la précédente. L’empreinte d’une ligne inclut celle de la ligne d’avant. Modifiez une ligne du journal et vérifiez : la chaîne casse exactement là.
- La sécurité, en clair. Hébergement sur les serveurs d’AI Jungle en Allemagne (UE). Les agents se connectent en OAuth avec PKCE et ne reçoivent jamais le droit de décider. Export ou effacement d’un espace sur demande ; avec le plugin gratuit, l’historique est gardé 30 jours.
Journal du cabinet · exempleSHA-256
| Heure | Ligne du journal | Hash | Contrôle |
|---|---|---|---|
········ | |||
········ | |||
········ | |||
········ | |||
········ |
Calculé dans votre navigateur en SHA-256. Modifiez une ligne, puis vérifiez.
Questions sur l’humain dans la boucle
Le principe
L’humain dans la boucle, est-ce la même chose qu’un circuit de validation ?
Presque. Un outil de circuit envoie un document à quelqu’un. Pour des agents, l’humain dans la boucle rattache aussi la validation au contenu exact et empêche l’agent de décider seul.
L’humain dans la boucle ralentit-il les agents ?
Seulement là où vous le choisissez. Le travail interne peut tourner en L3. Seul ce qui sort du cabinet attend, et valider prend un geste.
Qu’est-ce que l’humain sur la boucle ?
La personne surveille et peut arrêter l’agent, sans valider chaque action avant. Cela convient au travail interne et réversible.
Avec Pitstop
Quels agents fonctionnent avec Pitstop ?
Tout agent qui parle MCP avec OAuth, dont ChatGPT, Claude et Codex.
Un agent peut-il valider sa propre demande dans Pitstop ?
Non. Son accès lui permet de demander des validations et d’en lire le statut. Il ne peut ni valider, ni modifier, ni refuser.
Que se passe-t-il si le texte change après la validation ?
L’empreinte ne correspond plus, donc la validation ne compte plus et l’agent doit redemander.
Voyez-le sur vos propres agents.
Pitstop place le pit stop entre vos agents et tout ce qui sort du cabinet, dans l’espace que votre équipe partage déjà. Un prix par cabinet.