AIエージェントはどこまで自律復旧していいのか――Runtime Governanceと責任経路
最近、AIエージェントへ長時間の作業を任せる機会が増えました。 便利です。途中でエラーが起きても、自分で原因を探し、別の方法を試し、作業を続けてくれます。 ただ、あるとき気づきました。 この復旧は、どこまで自律的に続けてよいのだろう。 同じ操作を再試行するだけなら、問題は小さいかもしれません。けれど、設定を変え、参照先を変え、権限や検証条件に触れながら進むなら、それはもう単なるエラー復旧ではありません。 2026年7月、AIエージェントをめぐる製品動向や事故のニュースを追いながら、私はこの問いを何度も考えることになりました。 モデルを賢くする話だけではありません。長時間動かす。外部ツ...
出典: Zenn AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 Zenn AIで元記事を読む →
この話題に関連する、TOEの実践・観測記録
AI解体新書
AIに記憶を持たせると何が起きるか — 1,227ケースで判明した「後から効く」汚染
AIエージェントに社内の情報を覚えさせると、入力時のチェックをすり抜けて後から悪影響を出す汚染が起きます。2026年7月公開の研究が検証した1,227ケースの結果と、中小企業が記憶機能を使うときの線引きを整理しました。
続きを読む →
AI解体新書
AIに手順書を渡すと成績はどれだけ上がるか — 決済連携の実測で10.31ポイント
同じAIでも、その業務専用の手順書を渡すかどうかで成績が変わります。決済システム連携を題材にした2026年7月公開の研究では、平均10.31ポイントの改善が測定されました。中小企業がAIを使うときに、この差がどこで効くのかを整理します。
続きを読む →
AI解体新書
AIの評価を「成功率」だけで見ると何を見落とすか — セキュリティ分野の研究から
AIの性能は通常「どれだけ正解したか」で語られますが、実務では1回いくらかかったかが同じくらい効きます。2026年7月公開の研究は、コストを揃えて比較すると評価が変わること、そして仕事の種類によって「予算を積む効果」が違うことを示しました。
続きを読む →