PerplexityがAIエージェントの“暴走”対策ツールをオープンソースに Claude CodeやCodexを監視
PerplexityがAIエージェントの危険な挙動を検知・防止するツール群「Numbat」をオープンソース化。Claude CodeやCodexに組み込み、タスクに執着したエージェントの“暴走”を実行前に阻止する。
出典: ITmedia AI+（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 ITmedia AI+で元記事を読む →
この話題に関連する、TOEの実践・観測記録
AI解体新書
AIに調べ物をさせると、専門家と同じ結論に届くか — 28研究の自動メタ分析
「調べてまとめる」仕事はAIに向いていそうで、実際には根拠の追跡が難しく任せにくい領域です。2026年7月公開の研究は、検索から統計処理まで通しで自動化し、専門家によるメタ分析と近い結果を得たと報告しました。中小企業の調査業務に何が使えるかを整理します。
続きを読む →
AI解体新書
AIの公平性を上げると、プライバシーは守られるのか — 全体平均では見えない差
採用や与信でAIを使うとき、公平性への配慮は避けられません。2026年7月公開の研究は、公平性を高める処理がプライバシー上のリスクに与える影響を部分集団ごとに調べ、全体の平均では見えない偏りがあることを示しました。
続きを読む →
AI解体新書
社内データにAIを「たどらせる」方式は、追加学習なしでどこまで当たるのか（Macro F1 66.29%／最難関40.83%）
知識グラフを段階的にたどらせてSPARQLを生成する手法MARSが、ファインチューニングなしで既存手法を上回った。ただし最高でもMacro F1は66.29%、最難関ベンチマークでは40.83%。社内DBへの自然文質問AIを検討する中小企業が、精度の天井をどう見積もり、どこに人を残すべきかを一次資料の数字から読む。
続きを読む →