AI機能のキルスイッチを設計する
· 7分で読める
製品を落とさずに数分でAI能力を無効化できないなら、不可逆アクションにさらす準備はできていません。
ブラスト半径を止めるまでフラグはキルスイッチではない
ボタンを隠すだけのフィーチャーフラグは、モデル呼び出し、ツール実行、キュー済み副作用を動かしたままにします。AIの真のキルスイッチは能力パスを止めます：新規生成なし、ツール書き込みなし、外向きメッセージなし、そして重要作業を終えられる決定的なプロダクト経路。
最初のインシデント中ではなくローンチ前にスイッチを設計します。オーナー、安全なデフォルト、伝播SLA、AIオフ時のユーザー向け文面を名付けます。切り替えに再デプロイが必要なら、キルスイッチではなく希望しかありません。
虚栄の粒度ではなくリスクでスコープする
半配線のトグルを何十個も持つより、少数の十分テストされたスイッチを好みます。有用なスコープ：テナントの全AI、単一の高リスクアクション種別、モデルルートA対フォールバックB、ツール書き込み対読み取り専用支援。各スイッチはインシデントチャンネルで説明できる明確なブラスト半径に対応すべきです。
ソフト劣化とハード停止を分けます。ソフト劣化は拒否率を上げ、検索のみの回答を強制し、より小さいモデルへ回せます。ハード停止はAIを重要経路から完全に外します。ストレス下の運用者には両方が必要で、不可逆アクションでは安全側にフェイルするデフォルトにします。
- 定義したSLA内でキル状態をエッジ・ワーカー・クライアントへ伝播
- スイッチをモデル提供者のステータスページから独立させる
- チェックアウト・認証・データエクスポートに非AI経路を残す
- 誰が何をいつなぜ切り替えたかを監査用にログ
ダークパスをリリースゲートのようにテストする
ステージングは定期的にAIを殺した状態で動かすべきです。空状態、サポートマクロ、分析が意味をなすこと、スイッチ後に進行中ジョブが危険な作業を完了しないことを確認します。レイテンシだけを見るカオスデーは、顧客が本当に恐れる失敗モード—自信のある誤アクション—を見逃します。
キルスイッチを自動トリップワイヤと組み合わせます：コスト燃焼、グラウンディング崩壊、ポリシー違反スパイク、人的エスカレーション上昇。自動化はソフト劣化を提案・実行でき、顧客向け書き込みのハード停止は、破局リスクでない限り人の確認を要することが多いです。
障害を謝罪スパムではなくプロダクトとして伝える
AIがオフのとき、何がまだ動き、タスクをどう終えるかを言います。曖昧な「アシスタント利用不可」は、すでに逼迫したシステムを叩く再試行を生みます。内部ランブックは顧客メッセージ、サポートスクリプト、評価健全性復帰後の再有効化基準を含めるべきです。
キルスイッチはAIプロダクトのスタッフ級インフラです。モデルの不確実性を運用可能なコントロールプレーンに変え、現実がデモから逸れたときにきれいに止められるからこそ、野心的な機能を出せます。
2026年9月7日、Berktug Berke Ates が公開。