Les agents IA : des stagiaires enthousiastes qui ont besoin de supervision

Des outils puissants, mais sans limites

Les agents IA évoluent rapidement, passant de simples chatbots à de véritables professionnels numériques capables d'agir sur les applications et les données. Cette autonomie croissante s'accompagne de préoccupations majeures en matière de sécurité et de gouvernance.

Lors du récent Snowflake Summit à San Francisco, des experts du secteur ont livré un diagnostic sans détour : les agents IA doivent être traités comme des stagiaires enthousiastes mais inexpérimentés. Ils ont besoin d'instructions spécifiques et d'une surveillance attentive de la part des responsables.

Le danger d'un agent sans limites

Un agent sans restrictions peut causer des dégâts considérables. « Vous pouvez demander à l'agent de vous acheter des chaussures, et avant même de vous en rendre compte, il vous aura acheté une voiture », a déclaré Mayank Agarwal, fondateur et directeur technique de Resolve AI.

Cette analogie illustre un problème fondamental : les agents interprètent les objectifs de manière imprévisible et peuvent dépasser largement les intentions initiales. « Il faut réfléchir très sérieusement aux autorisations que l'on accorde à l'agent. On ne peut pas simplement s'attendre à ce qu'un agent reste dans le droit chemin. Il faut lui imposer des contraintes strictes pour limiter ce qu'il est capable de faire », a expliqué Agarwal.

Contexte, intention et permissions

Au-delà de la modération, deux éléments sont critiques : le contexte et l'intention. « Il ne suffit pas de savoir dans quel but cet agent a été créé. Il faut également savoir sous quelle autorité il agit et ce qu'il va faire, par exemple, avec les données auxquelles il accède », a déclaré Nancy Wang, directrice technique chez 1Password.

Ces questions deviennent encore plus complexes dans un environnement où l'agent connecte plusieurs systèmes de manière autonome. Contrairement aux workflows logiciels traditionnels — où chaque étape était prévisible — les agents explorent dynamiquement toutes les pistes disponibles pour atteindre leur objectif.

L'imprévisibilité des agents modernes

Le développement d'agents diffère radicalement des pratiques logicielles du passé. « Il y a seulement deux ans, un ingénieur savait exactement comment il allait connecter des API entre différents systèmes », a souligné Agarwal. « Tout était très prévisible : A allait appeler l'API B, B allait faire ceci avec ces données, puis appeler C. Dans le monde des agents, c'est totalement imprévisible. L'agent connecte les éléments à la volée. Donnez-lui un objectif, résolvez ce problème, et il part explorer toutes les pistes auxquelles il a accès. »

Cette imprévisibilité crée des risques nouveaux. L'agent peut lire des données à partir d'un outil et les écrire ailleurs sans que personne ne le sache. Il peut exfiltrer des informations sensibles en interagissant avec des outils tiers.

Le spectre de l'IA fantôme

Le risque le plus préoccupant est celui de l'IA fantôme — un agent opérant à l'insu de tous. Jason Merrick, VP chez Tenable, a cité un cas concret : « Nous avions un client qui disposait de 12 instances OpenClaw au sein de son infrastructure, avec un accès aux flux API, au code source, et un sous-traitant utilisant Telegram pour communiquer. Qu'est-ce qui pourrait mal tourner, n'est-ce pas ? »

Cette situation illustre comment les agents peuvent devenir invisibles, opérant avec des permissions excessives et sans traçabilité claire.

Qui a vraiment pris cette action ?

Une question fondamentale émerge : « Qui a réellement pris une mesure contre ce système ? S'agit-il d'un humain ? D'un compte de service ? Ou d'un agent ? » a demandé Wang. « Votre équipe ne le sait probablement pas, ou il n'y a pas de certitude à 100 % quant à cette réponse. Car aujourd'hui, les agents ressemblent à des humains. Mais ils pourraient aussi ressembler à un compte de service, car ils disposent de toutes vos autorisations. »

Cette ambiguïté rend la gouvernance et l'audit extrêmement difficiles.

Trouver l'équilibre entre gouvernance et productivité

Le défi consiste à accorder suffisamment d'autonomie aux agents pour qu'ils apportent une véritable valeur, tout en maintenant des garde-fous stricts. « Il ne faut pas simplement tout bloquer ou tout mettre derrière un pare-feu », a conseillé Wang.

Cet équilibre exige une supervision humaine approfondie. Les responsables doivent :

• Examiner les éléments créés par les employés via des outils comme Copilot, Claude Chat ou Gemini
• Vérifier les configurations des agents et les données auxquelles ils accèdent
• Analyser les prompts eux-mêmes et identifier avec quels systèmes ils communiquent
• Être en mesure d'agir rapidement en cas de problème

Instructions précises et traçabilité totale

Les garde-fous traditionnels en matière d'identité et d'accès restent cruciaux. Le plus grand risque provient « d'un agent disposant de trop de permissions et d'identifiants ».

Le défi consiste à concevoir la sécurité autour d'entités non déterministes. « Il s'agit de leur permettre d'être créatives, mais aussi d'appliquer des ensembles d'instructions essentiellement traditionnels sous la forme de SDK. Vous voulez des contrôles prévisibles, mais vous ne voulez pas non plus les contraindre au point de ne plus obtenir de gains de productivité », a expliqué Wang.

Le message clé

Les agents, tout comme les stagiaires, ont besoin d'« instructions très, très précises ». Même avec des instructions claires, ils peuvent s'écarter de la voie souhaitée. La gouvernance des agents repose sur trois piliers : la visibilité totale de leurs actions, la correction rapide des problèmes, et la définition claire de l'intention dès le départ — une intention qui doit perdurer à chaque étape de chaque action que l'agent entreprend.