Claude Code のフックで危険なコマンドを止める：語で探すのをやめて実行位置で見る
起きたこと Claude Code にコマンドを自動で実行させていると、実行してほしくないものが混ざります。外部への送信、機密ファイルのコピー、取り消せない削除。そこで PreToolUse フック（コマンドが実行される直前に割り込んで、許可・確認・拒否を返す仕組み）を書きました。 最初の版は素朴でした。危ない語の一覧を作り、コマンドの文字列にその語が含まれていたら止める。これが2回壊れました。 2026-07-31。rtk proxy というコマンドを止める判定を入れたところ、次のコマンドまで止まりました（rtk は自分が入れているコマンド行のラッパーです。読者の環境では、自分が止...
出典: Zenn AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 Zenn AIで元記事を読む →
編集部の実践記録から
社内AIの「危ない出力」を自社ルールで検閲する4Bモデルは、中小企業でも運用できるのか？
NVIDIAが公開したNemotron 3.5 Content Safetyは、AIの入出力が安全かどうかを判定する4Bパラメータの小型モデルです。多言語Aegisで有害判定F1が96.5%、日本語は明示的な訓練対象12言語に含まれます。ただし数値はすべて提供者本人の自己申告で、比較条件は非公開です。
続きを読む →
AIエージェントに専用コマンドを渡すと何が変わるのか？18タスク1,000回で成功率84%が94%になった記録
Hugging Faceが同一の18タスクを各10回、計約1,000回走らせて比較したところ、専用CLIを使ったエージェントの成功率は94%、汎用のAPI直叩きでは84%でした。トークン消費は最大6.0倍の差がつく一方、単発の読み取りでは専用化が不利になる線引きも示されています。
続きを読む →
AIエージェントはどこで失敗するのか？8,000超のAPI・62ドメインで測ったVAKRAが示す設計の上限
IBM Researchが公開したエージェント評価基盤VAKRAは、8,000以上のAPIと62ドメインを模した環境で、推論チェーン3〜7ステップを要しうる課題を解かせるものです。ツール候補の多さ、手順の長さ、社内ルールの遵守という3条件で失敗が増える構造を、中小企業の設計判断に引き直して読み解きます。
続きを読む →