Microsoft lance ACS : le standard pour contrôler vos IA agents

Les AI agents — ces programmes intelligents qui gèrent des tâches de façon autonome — sont devenus puissants. Mais un nouveau problème émerge : quand les entreprises les déploient en production, comment s'assurer qu'ils font exactement ce qu'on leur demande, sans dévier vers des actions dangereuses ou imprévisibles ?

Microsoft s'attaque au problème. L'entreprise vient de lancer un nouveau standard open-source appelé Agent Control Specification (ACS) — une technologie qui permet aux développeurs et aux équipes de sécurité de contrôler précisément ce qu'un AI agent peut faire.

Qu'est-ce que l'ACS, exactement ?

Imaginez l'ACS comme une « constitution » pour votre agent intelligent. Cette constitution stipule :

• Ce que l'agent peut faire
• Ce qui lui est interdit
• Quand il doit demander l'approbation d'un humain avant d'agir
• Quels événements doivent être enregistrés pour audit

Ces règles vivent dans un seul fichier et sont vérifiées à plusieurs points de contrôle pendant l'exécution, pour s'assurer que l'agent ne sort jamais du cadre.

Le problème aujourd'hui

Les développeurs utilisent actuellement des approches fragmentées pour contrôler les agents :

• Écrire des instructions dans le System Prompt (le prompt initial donné au modèle de langage)
• Ajouter des checks manuels dans le code
• Utiliser des classifiers pour détecter les entrées dangereuses

Ces méthodes fonctionnent, mais le problème est évident : chaque entreprise a son propre système, et les règles ne sont pas portables d'un projet à l'autre. Si vous construisez un système de sécurité robuste avec LangChain, vous ne pouvez pas le transférer facilement vers OpenAI Agents SDK ou Anthropic.

Comment fonctionne l'ACS

Le standard permet aux développeurs de contrôler 4 points clés :

1. Avant que l'agent ne lise l'entrée utilisateur

Vous pouvez filtrer les entrées dangereuses avant qu'elles n'atteignent le modèle. Exemple : si l'utilisateur pose une question sensible, l'agent la rejette avant même de la traiter.

2. Avant que l'agent n'appelle un outil externe

L'agent peut invoquer des outils externes (base de données, API, etc.). L'ACS vérifie : « Cet outil est-il sûr dans ce contexte ? » Exemple : l'agent veut supprimer un fichier du serveur — avant d'agir, il demande l'approbation d'un humain.

3. Après que l'outil retourne un résultat

Le résultat peut contenir des données sensibles ou inexactes. L'ACS peut masquer les informations personnelles (numéros de téléphone) ou corriger les erreurs.

4. Avant de retourner la réponse finale

Dernier contrôle : la réponse qui va atteindre l'utilisateur est-elle sûre et exacte ?

Les outils que vous pouvez utiliser

Les développeurs peuvent ajouter :

• Classifiers : des outils qui catégorisent les données (ex : « cette entrée est sensible »)
• LLMs comme juges : un second modèle de langage qui lit la décision et dit « c'est sûr ou pas »
• Logic checks : des vérifications logiques simples (ex : « le nombre ne peut pas dépasser 1000 »)

L'avantage clé : la portabilité

Comme on l'a dit, le plus grand atout de l'ACS est que les règles vivent dans un seul fichier. Cela signifie :

• Vous écrivez les règles une seule fois
• Vous les transférez entre différents outils sans réécriture
• Chaque équipe (sécurité, compliance, développement) travaille sur le même fichier

Support technique

Microsoft n'est pas seule. L'ACS fonctionne avec :

• LangChain (l'outil le plus populaire pour construire des AI agents)
• OpenAI Agents SDK
• Anthropic Agents SDK
• AutoGen (de Microsoft elle-même)
• CrewAI
• Semantic Kernel
• MCP tools (protocole qui permet aux outils de communiquer)

Ce large support signifie : si vous travaillez avec n'importe lequel de ces outils, l'ACS s'intègre.

Qu'est-ce que cela change pour vous ?

Les entreprises marocaines qui investissent dans les AI agents — banques, opérateurs télécom, cabinets juridiques — vont en bénéficier directement. Sécurité et compliance ne sont plus des obstacles : elles peuvent écrire les règles une fois et les dupliquer sur tous leurs systèmes. Même les développeurs indépendants travaillant avec des clients européens peuvent construire des systèmes plus professionnels et sécurisés. Et la compétence en « governed AI agents » devient très demandée sur le marché du travail remote. Ce nouveau standard va créer des opportunités de formation et de développement importantes dans les années à venir.