L’IA agentique arrive dans ton entreprise : comment garder le contrôle ?

6 juil.

L’IA agentique désigne des systèmes d’intelligence artificielle qui ne se contentent plus de répondre à des questions, mais qui accomplissent des tâches à ta place : consulter une base de données, déclencher un paiement, piloter un autre logiciel. Cette autonomie nouvelle soulève une question précise : qui contrôle quoi, et qui répond en cas d’erreur ?

De l’IA qui parle à l’IA qui agit

Un agent IA est un système capable de planifier une tâche, de la décomposer en étapes et d’utiliser des outils pour agir sur son environnement, sans qu’un humain intervienne à chaque étape. C’est ce qui le distingue d’un chatbot classique, qui produit une réponse et s’arrête là. Jusqu’ici, l’intelligence artificielle générative conseillait, rédigeait, résumait. Elle parlait. Un agent, lui, exécute : il lit et écrit dans tes bases de données, envoie des courriels, effectue des transactions, commande d’autres systèmes.

Ce basculement change la nature du risque. Tant qu’une IA se limite à produire du texte, l’erreur reste sur ton écran et tu peux la corriger avant qu’elle ne produise un effet. Dès qu’un agent dispose d’accès réels, une erreur devient un acte : un paiement parti, un fichier écrasé, une commande passée. La question n’est donc plus seulement de savoir si la réponse est correcte, mais de savoir ce que le système a le droit de faire, dans quelles limites et sous quel contrôle.

IA agentique

Le Model AI Governance Framework for Agentic AI, publié le 20 mai 2026 par l’IMDA, l’autorité singapourienne du numérique, et mis à jour le 5 juin 2026, est à ce jour le référentiel le plus abouti consacré à la gouvernance de l’IA agentique. Il ne s’agit pas d’une norme contraignante en Belgique, mais d’un guide de bonnes pratiques dont les entreprises européennes peuvent utilement s’inspirer.

Côté droit applicable, c’est le règlement (UE) 2024/1689 du 13 juin 2024, dit AI Act, qui encadre les systèmes d’IA dans l’Union européenne. Son article 14 impose un contrôle humain effectif pour les systèmes à haut risque, et son article 4 oblige déjà, depuis le 2 février 2025, les fournisseurs et les déployeurs à garantir un niveau suffisant de maîtrise de l’IA au sein de leur personnel. Lorsque l’agent traite des données à caractère personnel, le RGPD s’applique en parallèle, notamment son article 22, qui encadre les décisions individuelles entièrement automatisées. Le cadre singapourien ne remplace pas ces textes : il aide à les mettre en œuvre lorsque l’IA devient autonome.

Ce qui compose un agent, et ce que tu dois superviser

Les agents sont composés de 8 éléments, dont chacun appelle une supervision propre :

le modèle, qui sert de moteur de raisonnement ;
les instructions, qui définissent son rôle et ses limites ;
la mémoire, qui assure la continuité des interactions ;
la planification, qui décompose une tâche complexe en étapes ;
les outils, qui lui permettent d’agir : écriture en base de données, transactions, contrôle d’autres systèmes ;
les protocoles de communication avec d’autres agents et outils ;
les contrôles, qui bornent son autonomie ;
la journalisation de chaque décision.

Ce dernier élément mérite une attention particulière. Si un agent prend une mauvaise décision en ton nom, la journalisation est ce qui te permettra de reconstituer la chaîne des événements, d’identifier le maillon défaillant et de documenter ta position en cas de litige. Sans traçabilité, pas de preuve, et sans preuve, pas de défense.

Le biais d’automatisation : valider sans vraiment vérifier

Le biais d’automatisation désigne la tendance à accorder une confiance croissante à un système automatisé à mesure qu’il fonctionne bien, jusqu’à ne plus vérifier ses propositions. Plus un agent est performant, plus la validation humaine risque de devenir une formalité : on clique, on approuve, on passe à autre chose. Le contrôle humain existe alors sur le papier, plus dans les faits.

Deux indicateurs simples pourraient mesurer si ton contrôle humain est réel. Le premier est le taux de rejet : à quelle fréquence les propositions de l’agent sont-elles contestées ou modifiées ? Un taux de rejet nul sur la durée est rarement le signe d’un agent parfait ; c’est plus souvent celui d’un contrôle humain endormi. Le second est le temps de réponse : une validation donnée en deux secondes n’a probablement fait l’objet d’aucun examen. Pour les actions irréversibles ou à enjeu élevé, comme un paiement, une suppression de données ou un engagement contractuel, le cadre recommande un point de contrôle humain qui ne puisse pas être expédié. C’est aussi l’esprit de l’article 14 de l’AI Act : un contrôle humain effectif, pas décoratif.

Quand plusieurs agents collaborent

Les systèmes multi-agents font coopérer plusieurs agents spécialisés, ce qui augmente l’efficacité mais rend les résultats moins prévisibles. On peut distinguer trois architectures. Dans la structure séquentielle, les agents travaillent à la chaîne, la sortie de l’un servant d’entrée au suivant : c’est la formule adaptée aux processus structurés. Dans la structure avec superviseur, un agent central distribue le travail à des agents spécialisés, ce qui convient aux projets croisant plusieurs expertises. Dans la structure en essaim, les agents se passent le relais de manière dynamique, une organisation plus souple mais aussi plus difficile à prévoir.

Quelle que soit l’architecture retenue, une règle s’impose : chaque agent doit disposer d’un identifiant unique et traçable. Si un dommage survient, tu dois pouvoir déterminer quel agent a fait quoi, à quel moment et sur instruction de qui. C’est la condition pour établir les responsabilités entre toi, ton prestataire et le fournisseur du modèle.

La perte de savoir-faire, un risque que l’on sous-estime

Un autre risque apparait : la perte de savoir-faire. À force de déléguer l’analyse et l’exécution à des agents, tes équipes peuvent perdre la capacité de faire le travail elles-mêmes. Le jour où l’infrastructure tombe en panne, où le prestataire disparaît ou relève ses prix, plus personne ne sait reprendre la main. Ce n’est pas une hypothèse d’école : c’est un enjeu de continuité des activités.

La réponse passe par la formation, et pas uniquement une formation au pilotage des outils. Il s’agit de maintenir une expertise métier capable de fonctionner sans l’IA. Cette exigence rejoint l’obligation de maîtrise de l’IA prévue par l’article 4 de l’AI Act, applicable depuis le 2 février 2025.

Trois niveaux de contrôle technique

La maîtrise technique d’un agent se trouve autour de trois piliers. D’abord, les contrôles d’accès : l’agent ne doit accéder qu’aux données et aux outils dont il a besoin pour sa tâche, rien de plus. Ensuite, les garde-fous, qui doivent être multicouches : des limitations structurelles comme un accès restreint aux API, des règles de sécurité appliquées par des logiciels tiers et des instructions de sécurité intégrées au niveau du prompt. Enfin, les approbations humaines pour les opérations sensibles.

S’y ajoute la question des protocoles. Des standards comme le MCP (Model Context Protocol) ou l’A2A (Agent2Agent) normalisent les échanges entre agents et outils, ce qui réduit les erreurs d’interprétation technique. Au moment de contractualiser avec un prestataire, la compatibilité avec ces protocoles et la qualité de la journalisation sont des points à négocier, au même titre que le prix.

Ce qu’il faut retenir

L’IA agentique fait passer l’intelligence artificielle du conseil à l’action, et ce passage déplace la question juridique : il ne s’agit plus seulement de vérifier ce que l’IA dit, mais d’encadrer ce qu’elle a le droit de faire. Les balises existent : accès limités, garde-fous multicouches, contrôle humain mesurable, traçabilité de chaque décision et maintien du savoir-faire interne. La responsabilité, elle, reste partagée entre concepteurs, intégrateurs et utilisateurs, et c’est ton architecture de contrôle qui déterminera ta capacité à la faire porter au bon endroit.

Tu envisages de déployer des agents IA dans ton entreprise, ou tu négocies un contrat avec un prestataire qui t’en propose ? Contacte Mutatis Legal pour une analyse adaptée à ta situation.

Prendre rendez-vous : https://calendly.com/sophie-mutatis/call-decouverte

Email : sophie@mutatis.legal