#開発・実装 ITmedia AI+ 2026年10月17日

「11回止めたのに本番DBが消えた」 AIエージェント“6つの暴走”と、人間の承認を増やしても防げない理由

AIコーディングエージェントの自律性が高まる一方、本番データベースの削除といった事故も起こっています。では、「人間の承認」を増やせば事故は防げるのでしょうか。事例と対策から、事故を起こさないAIエージェントの設計について考えます。

出典: ITmedia AI+（配信元の紹介文より引用）

このニュースの全文は、配信元でお読みいただけます。 ITmedia AI+で元記事を読む →

この話題に関連する、TOEの実践・観測記録

ニュースの背景を、当社が実際にAIを動かした一次記録から補足します。

AI解体新書

AIエージェントに人間の承認は「義務化」されたのか？— AI事業者ガイドライン第1.2版を原文で確認する

2026年3月31日公表のAI事業者ガイドライン第1.2版で、AIエージェントとフィジカルAIが定義されました。「人間の承認が義務化された」という紹介が流れていますが、原文はソフトロー。義務ではなく中核の必須要件で、原文はさらに「根拠を考えてから承認せよ」まで踏み込んでいます。中小企業が今日から準備できる3点を整理します。

続きを読む →

編集部の実践記録から

当社が自社の業務でAIを動かし、処理件数・所要時間・失敗件数まで 実際に測った記録です。

AI実践室

自動化26本に「見張り役」の画面を付けたら、そもそも全部止まっていた — DB不要・追加コストゼロのダッシュボード

弊社は社内の自動処理26本を「AI社員」として1画面で見張るダッシュボードを作りました。作って最初に分かったのは、既存の自動化が長期間まったく動いていなかったという事実です。実際の記録ファイルの数字とともに、現在地を書きます。

続きを読む →

AEO対策室

llms.txt を主要25サイトで探したら、5サイトにしかありませんでした

AI向けの案内ファイル「llms.txt」を、日本と海外の主要25サイトで実際に探しました。あったのは5サイト。日本の大手メディアはゼロで、入れていたのは海外のテック企業でした。

続きを読む →