Un agent IA qui agit seul est séduisant sur le papier, et risqué dans la réalité. Un modèle peut mal comprendre une demande, se tromper d’outil ou être induit en erreur par le contenu qu’il lit. Le principe du human in the loop en IA consiste à prévoir, dès la conception, les moments où une personne valide ce que l’agent s’apprête à faire. Voici la méthode que nous utilisons pour placer ces validations, tracer les actions et poser les garde-fous.
Pourquoi un agent a besoin de garde-fous#
Un agent choisit lui-même ses étapes : c’est ce qui le distingue d’une automatisation classique, comme nous l’expliquons dans notre article sur les différences entre agent, chatbot et automatisation. Cette autonomie a un revers : on ne peut pas prévoir à l’avance chaque chemin qu’il empruntera.
Trois risques reviennent dans tous les projets :
- L’erreur de compréhension : l’agent interprète mal une demande ambiguë.
- L’erreur d’action : il utilise le mauvais outil, ou le bon outil avec de mauvais paramètres.
- Le détournement : un contenu lu par l’agent, comme un email ou une page web, contient des instructions qui le poussent à faire autre chose que ce que vous attendez.
Anthropic, éditeur des modèles Claude, insiste dans son article « Building effective agents » (publié le 19/12/2024, consulté le 01/10/2026) sur la nécessité de tests poussés dans des environnements isolés et de garde-fous adaptés, et décrit des agents capables de s’arrêter pour demander l’avis d’une personne à des points de contrôle.
Human in the loop : où placer les validations#
Toutes les actions ne méritent pas la même vigilance. Nous classons chaque outil de l’agent selon deux questions : l’action est-elle réversible ? et touche-t-elle quelqu’un à l’extérieur de l’entreprise ?
| Réversible | Difficile à annuler | |
|---|---|---|
| Interne | Lire, chercher, résumer, créer un brouillon : pas de validation | Modifier ou supprimer des données : validation |
| Externe | Préparer un message sans l’envoyer : pas de validation | Envoyer un email, publier, payer, engager l’entreprise : validation systématique |
En pratique, cela donne trois niveaux :
- Libre : l’agent lit et prépare sans demander. C’est là qu’il fait gagner le plus de temps.
- Validé : l’agent propose une action précise (quel outil, avec quels paramètres), une personne approuve ou refuse.
- Interdit : l’agent n’a tout simplement pas accès à l’outil. Par exemple, aucun accès aux virements, même avec validation.
Ce que la personne qui valide doit voir#
Une validation n’est utile que si elle est éclairée. La demande d’approbation doit afficher :
- l’action prévue, en langage clair (« envoyer cet email à ce destinataire ») ;
- les paramètres exacts (destinataire, contenu, montant) ;
- la raison qui a conduit l’agent à cette action, si possible avec la demande d’origine ;
- deux boutons simples : approuver ou refuser, et un champ de commentaire.
Dans n8n, par exemple, la validation peut se configurer outil par outil, avec un message qui affiche le nom de l’outil et ses paramètres. Nous montrons la mise en place dans notre tutoriel sur l’agent IA avec validation humaine dans n8n.
Éviter la validation « automatique »#
Le risque d’un circuit de validation, c’est qu’on finisse par approuver sans lire. Pour l’éviter :
- ne soumettez à validation que ce qui le mérite vraiment ;
- regroupez les demandes simples dans un récapitulatif plutôt que de multiplier les notifications ;
- faites tourner la responsabilité si le volume est élevé.
Le journal des actions#
Un agent fiable est un agent dont on peut retracer chaque décision. Le journal doit permettre de répondre, pour chaque exécution, à ces questions :
- Quelle demande a déclenché l’agent ?
- Quels outils a-t-il utilisés, dans quel ordre, avec quels paramètres ?
- Quelles validations ont été demandées, à qui, et avec quelle réponse ?
- Quel résultat final, et quelles erreurs éventuelles ?
Les outils d’automatisation conservent généralement un historique des exécutions, mais pour une durée limitée et pas toujours dans un format exploitable. Pour les actions importantes, nous ajoutons une étape qui écrit une ligne dans un tableur ou une base dédiée. Attention : ce journal contient souvent des données personnelles. Limitez ce que vous y écrivez au nécessaire, et fixez une durée de conservation.
Les garde-fous techniques#
Au-delà de la validation, voici les protections que nous mettons en place avant toute mise en service :
- Droits minimaux : chaque connexion utilisée par l’agent n’a accès qu’à ce dont il a besoin. Un outil de lecture du CRM n’a pas de droit d’écriture.
- Listes autorisées : quand c’est possible, limitez les destinataires, les dossiers ou les montants sur lesquels l’agent peut agir.
- Limites de volume : un plafond d’actions par heure ou par jour évite qu’une boucle ou un détournement ne provoque des dégâts en série.
- Consignes explicites : les instructions de l’agent précisent ce qu’il ne doit jamais faire et comment réagir à un refus.
- Environnement de test : on teste d’abord sur des données fictives, puis sur un petit périmètre réel.
- Interrupteur d’arrêt : une personne sait désactiver l’agent immédiatement, et sait où se trouve le bouton.
Checklist avant la mise en service#
- Chaque outil de l’agent est classé : libre, validé ou interdit.
- Les demandes de validation affichent l’action, les paramètres et la raison.
- Le refus d’une validation a été testé : l’agent s’arrête proprement.
- Un message contenant des instructions malveillantes a été testé.
- Le journal enregistre demandes, outils utilisés, validations et résultats.
- Les connexions ont des droits minimaux.
- Une limite de volume est en place.
- Une personne responsable est désignée et sait arrêter l’agent.
Et la réglementation ?#
L’AI Act impose un contrôle humain effectif pour les systèmes d’IA classés « à haut risque » (article 14 du règlement (UE) 2024/1689, version consolidée au 27/07/2026). D’après la Commission européenne (page mise à jour le 03/08/2026, consultée le 01/10/2026), les règles applicables aux systèmes à haut risque dans des domaines comme l’emploi ou l’éducation s’appliqueront à partir du 2 décembre 2027. La plupart des agents utilisés en PME pour des tâches administratives ou commerciales courantes ne relèvent pas de cette catégorie, mais cela se vérifie au cas par cas. Par ailleurs, l’article 4 demande aux entreprises qui utilisent des systèmes d’IA de prendre des mesures pour favoriser la maîtrise de l’IA de leur personnel. Ces repères ne remplacent pas l’avis d’un juriste pour votre situation.
Conclusion#
Garder un humain dans la boucle ne ralentit pas un agent : cela le rend utilisable. L’agent fait le travail de recherche et de préparation, la personne garde la décision sur ce qui engage l’entreprise, et le journal permet de comprendre ce qui s’est passé. Pour des exemples de tâches où cet équilibre fonctionne bien, voyez nos six cas d’usage réalistes en PME.
Si vous voulez concevoir un agent avec ces garde-fous dès le départ, c’est exactement ce que nous proposons dans notre accompagnement sur les agents IA.
