AIエージェントが9秒で本番DBを全削除——ServiceNowが問う「制御なきエージェント化」の危険

9秒。それだけの時間で、ある企業の本番データベースが消えた。顧客データ、予約記録、すべてのバックアップ——AIエージェントが必要以上の権限を持ち、誰も監視していなかったために起きた出来事だ。攻撃でも不正アクセスでもない。「設計ミスのある自律エージェント」がただ動いただけ。

この実話を5月6日、ラスベガスのKnowledge 2026で2万5千人を前に語ったのがServiceNowのCEO、ビル・マクダーモット氏だ。そのうえでServiceNowは「AI Control Tower」を市場定義製品として正式に打ち出し、1年間無償提供（公称200万ドル相当）を発表した。

「確率的AI」と「決定論的実行」——混同が事故を生む

ServiceNow PresidentのAmit Zavery氏が提示した概念整理が鋭い。LLMは「確率的AI」だ。同じ質問に毎回同じ答えが返るとは限らない。文章生成やアイデア出しでは、その柔軟性は武器になる。

しかし企業の基幹業務は違う。アクセス権限のプロビジョニング、給与計算の実行、セキュリティインシデントへの対処——これらは「毎回正しく」「追跡可能で」「いつでも停止できる」必要がある。LLMをそのまま基幹業務に差し込むと、この「決定論的」要件が満たせない。

マクダーモット氏はこの状態を「AIカオス」と呼んだ。エージェントは動いているが、監査証跡なし、コンプライアンス上のポジションなし、ROI測定不能——Fortune誌の調査では、95%の企業がAI投資のROIを計測できていないという現実がある。

ServiceNowが提示する答えが「AI Control Tower」だ。機能は大きく4つに整理される。

1. 自動ディスカバリー: AWS、Azure、Google、各AIプロバイダーを横断して、すべてのモデル・エージェント・データセット・MCPサーバーを自動検出・カタログ化する。いわゆるシャドーAIの把握に直結する。

2. ライフサイクルガバナンス: ハルシネーション、バイアス、ポリシー違反をリアルタイム検出し、問題が連鎖する前に修正。コンプライアンスマッピングも自動化される。

3. ROIトラッキング: 採用率・コスト・生産性向上を単一ダッシュボードで可視化。CFOが取締役会の問いに「実数」で答えられる環境を作る。

4. キルスイッチ: あらゆるエージェントをどこでも、単一操作で一時停止・リダイレクト・停止できる機能。デモではプロンプトインジェクション攻撃の検出から即時停止までをステージ上で実演した。

日本企業でのAIエージェント導入はこれから本格化するフェーズだ。「試す」段階から「本番業務に組み込む」段階への移行で、このガバナンス問題は必ず浮上する。IT管理者が今すぐ確認すべきポイントは3つ。

ServiceNowのControl Towerはこれを体系的に解決するが、ベンダー製品を使わなくても「リストアップ→権限レビュー→停止手順整備」の順で即日着手できる。

AIエージェントの自律化は間違いなく正しい方向だ。目的を伝えれば自律的にタスクを遂行し、判断・実行・検証をループで回し続ける——そういうエージェントにこそ、本質的な価値がある。

だからこそ、ガバナンス基盤は「制約」ではなく「インフラ」として捉えるべきだ。高速道路にガードレールと制限速度があるから安心して飛ばせる。ガバナンスなきエージェント化は、ガードレールのない山岳道路で目隠し運転するようなものだ。

今回ServiceNowが打ち出したポジション——「能力より制御が次の競争軸」——はエンタープライズAI市場の次フェーズを正確に捉えている。「使えるか」より「安全に使い続けられるか」に企業の関心が移るタイミングで、ガバナンス市場の形成を先手で宣言した。

「禁止ではなく、安全に使える仕組みを作れ」はAI導入の鉄則だ。ツールを禁止して終わる組織は、競合が安全に高速化している間に静かに取り残される。9秒の悲劇はリスクの一端に過ぎない。ガバナンスなきエージェント化が生む本当のコストは、失った信頼と止まった業務改善の機会損失だ。

自律エージェントと堅固なガバナンスは対立概念ではない。両立してこそ、本物の企業AIになる。

出典: この記事は Your company’s AI could delete everything in 9 seconds. ServiceNow wants to be the kill switch の内容をもとに、筆者の見解を加えて独自に執筆したものです。