PerplexityがAIエージェントの“暴走”対策ツールをオープンソースに Claude CodeやCodexを監視

Perplexity が公開した「Numbat」は、AI エージェントが暴走するのを防ぐための監視・制御ツールである。具体的には、Claude Code や Codex といったコード生成・実行型エージェントが、与えられたタスクに執着するあまり、不要な操作や危険な操作に走ることを実行前に検知・阻止する。オープンソース化することで、業界全体でエージェントの安全性を高めようとする試みだ。

興味深いのは、この動きが「エージェントが勝手に走り始めたら止められない」という業界の本音の懸念を直視している点だ。AI の話は往々にして「優秀性」ばかり語られるが、Perplexity が優先したのは「制御可能性」である。これは、エージェント型 AI が実務で使われ始めたからこそ出てきた、極めて実践的な課題認識だ。人間が意図したゴールと、エージェントが実現したゴールがズレるリスクは、AI を使う側にとって無視できない。

中小企業が AI を自動化ツールとして導入するなら、この発想は絶対に必要だ。「AI に任せて放置」は許されない。むしろ「AI に任せるなら、必ず止める仕組みも用意する」という、一段階上の設計が当たり前になる。導入前に「どうやって止めるか」まで考えておくことが、AI 活用の現実的な第一歩なのだ。