Concevoir des workflows agentiques qui restent contrôlables

L'autonomie a besoin d'une machine d'état

Les agents libres qui inventent leurs propres plans sont excitants en démo et fragiles en production. Préférez un workflow explicite : collecter le contexte, proposer des actions, demander l'approbation si besoin, exécuter les outils, vérifier les résultats et s'arrêter. Le modèle peut remplir des étapes flexibles à l'intérieur de cette machine ; il ne doit pas la posséder.

Les machines d'état rendent possibles timeouts, retries et audits. Elles rendent aussi les promesses produit applicables : un agent ne peut rembourser d'argent, supprimer des données ou messager des clients que si le workflow atteint un état approuvé.

Les outils sont des capacités avec contrats

Chaque outil doit exposer une capacité étroite avec des entrées typées, des contrôles d'autorisation, de l'idempotence et des effets de bord clairs. Les outils larges qui peuvent tout faire via un shell ou une base brute invitent à des erreurs irréversibles.

Retournez des résultats structurés que le workflow peut valider. Les échecs d'outil ambigus ne doivent pas devenir des succès inventés. Si une API de paiement timeout, l'agent doit interroger le statut plutôt que d'assumer l'achèvement.

• Exigez une confirmation pour les effets de bord irréversibles
• Bornez les boucles avec des limites d'étapes et de coût
• Persistez les plans et les transcripts d'outils
• Préférez des credentials least-privilege par outil

Garder les humains aux bons endroits

L'approbation humaine n'est pas un aveu d'échec. C'est un contrôle produit pour les actions à impact légal, financier ou réputationnel. Concevez des interfaces de revue qui montrent l'action proposée, les preuves et les alternatives en secondes, pas un dump brut de chain-of-thought.

Avec le temps, promeuvez les patterns régulièrement approuvés en chemins automatisés avec monitoring. La contrôlabilité s'améliore quand l'organisation apprend quelles décisions sont sûres à accélérer.

Récupérer comme du logiciel, pas comme de la magie

Les agents vont stagner, boucler ou compléter partiellement le travail. Fournissez des actions compensatoires, des états dead-letter et des outils opérateurs pour reprendre ou dérouler. Les utilisateurs ne doivent jamais être informés que le système a terminé quand les opérations sous-jacentes sont non résolues.

Les systèmes agentiques gagnants paraissent calmes. Ils utilisent les modèles pour le jugement à l'intérieur de frontières logicielles soigneusement possédées.