Progettare workflow agentici che restano controllabili

L’autonomia ha bisogno di una state machine

Agenti liberi che inventano i propri piani sono eccitanti nelle demo e fragili in produzione. Preferisci un workflow esplicito: raccogli contesto, proponi azioni, richiedi approvazione quando serve, esegui strumenti, verifica esiti e fermati. Il modello può riempire passi flessibili dentro quella macchina; non deve possedere la macchina.

Le state machine rendono possibili timeout, retry e audit. Rendono anche applicabili le promesse di prodotto: un agente non può rimborsare denaro, cancellare dati o messaggiare clienti se il workflow non raggiunge uno stato approvato.

Gli strumenti sono capability con contratti

Ogni strumento deve esporre una capability ristretta con input tipizzati, check di autorizzazione, idempotenza ed effetti collaterali chiari. Strumenti ampi che possono fare qualsiasi cosa tramite una shell o un database grezzo invitano errori irreversibili.

Restituisci risultati strutturati che il workflow possa validare. Fallimenti ambigui degli strumenti non devono diventare successi inventati. Se un’API di pagamento va in timeout, l’agente deve interrogare lo stato invece di assumere il completamento.

• Richiedi conferma per effetti collaterali irreversibili
• Limita i loop con tetti di step e di costo
• Persisti piani e transcript degli strumenti
• Preferisci credenziali least-privilege per strumento

Tieni gli umani nei posti giusti

L’approvazione umana non è una confessione di fallimento. È un controllo di prodotto per azioni con impatto legale, finanziario o reputazionale. Progetta interfacce di review che mostrino in secondi l’azione proposta, l’evidenza e le alternative, non un dump grezzo della chain-of-thought.

Nel tempo, promuovi i pattern approvati ripetutamente in percorsi automatizzati con monitoraggio. La controllabilità migliora quando l’organizzazione impara quali decisioni è sicuro accelerare.

Recupera come software, non come magia

Gli agenti si bloccheranno, entreranno in loop o completeranno il lavoro solo in parte. Fornisci azioni di compensazione, stati dead-letter e strumenti per operatori per riprendere o annullare. Gli utenti non devono mai sentirsi dire che il sistema ha finito quando le operazioni sottostanti non sono risolte.

I sistemi agentici vincenti sembrano calmi. Usano i modelli per il giudizio dentro confini software accuratamente posseduti.