制御可能なままのエージェンティックワークフロー設計

自律性にはステートマシンが要る

自分で計画を発明する自由形式エージェントはデモでは興奮し、本番では脆い。明示的なワークフローを好め：コンテキストを集め、アクションを提案し、必要なら承認を求め、ツールを実行し、結果を検証し、止まれ。モデルはその機械の中で柔軟なステップを埋められるが、機械を所有してはならない。

ステートマシンはタイムアウト、リトライ、監査を可能にする。プロダクト約束も強制可能にする：ワークフローが承認済み状態に達しない限り、エージェントは返金・データ削除・顧客メッセージをできない。

ツールは契約付きの能力である

各ツールは、型付き入力、認可チェック、冪等性、明確な副作用を持つ狭い能力を公開すべきだ。シェルや生のデータベースで何でもできる広いツールは、不可逆なミスを招く。

ワークフローが検証できる構造化結果を返せ。曖昧なツール失敗を発明された成功にしてはならない。決済APIがタイムアウトしたら、完了を仮定せずステータスを照会せよ。

• 不可逆な副作用には確認を要求する
• ステップとコスト上限でループを拘束する
• 計画とツールトランスクリプトを永続化する
• ツールごとに最小権限クレデンシャルを好む

人を正しい場所に置く

人の承認は失敗の自白ではない。法的・財務的・評判的影響を持つアクションのプロダクト制御だ。提案アクション、証拠、代替案を数秒で示すレビューUIを設計し、生の思考連鎖ダンプにしない。

時間とともに、繰り返し承認されたパターンを監視付きの自動化パスに昇格させろ。どの判断を加速して安全かを組織が学ぶほど、制御性は向上する。

魔法ではなくソフトウェアとして復旧する

エージェントは停止し、ループし、部分完了する。補償アクション、デッドレター状態、再開や巻き戻しのためのオペレーターツールを提供しろ。基盤操作が未解決なのに、システムが完了したとユーザーに言ってはならない。

勝つエージェンティックシステムは落ち着いて感じる。注意深く所有されたソフトウェア境界の中で、判断にモデルを使う。