# AIが「できたか分からない」と言ったとき、もう一度やらせてはいけない## ―― 外部API・二重実行・Commit-Unknownか
AIが「できたか分からない」と言ったとき、もう一度やらせてはいけない ―― 外部API・二重実行・Commit-Unknownから考えるAI Agentの安全設計 0|たった1回の「もう一度」が事故になる 人間: 「この注文を返金して」 AI Agent: 「返金APIを実行しましたが、タイムアウトして結果を確認できませんでした」 人間: 「じゃあ、もう一回やって」 AI Agent: 「了解しました」 そして後から分かった。 1回目の返金も、実は成功していた。 結果は二重返金。 ここで最初に押さえておきたいのは、たった一つです。 「失敗した」と「成功した...
出典: Zenn AI(配信元の紹介文より引用)
このニュースの全文は、配信元でお読みいただけます。 Zenn AIで元記事を読む →

