AIの鬼
#開発・実装 Zenn AI

# AIが「できたか分からない」と言ったとき、もう一度やらせてはいけない## ―― 外部API・二重実行・Commit-Unknownか

# AIが「できたか分からない」と言ったとき、もう一度やらせてはいけない## ―― 外部API・二重実行・Commit-Unknownか(内容を表す図ではないイメージ画像)
イメージ

AIが「できたか分からない」と言ったとき、もう一度やらせてはいけない ―― 外部API・二重実行・Commit-Unknownから考えるAI Agentの安全設計 0|たった1回の「もう一度」が事故になる 人間: 「この注文を返金して」 AI Agent: 「返金APIを実行しましたが、タイムアウトして結果を確認できませんでした」 人間: 「じゃあ、もう一回やって」 AI Agent: 「了解しました」 そして後から分かった。 1回目の返金も、実は成功していた。 結果は二重返金。 ここで最初に押さえておきたいのは、たった一つです。 「失敗した」と「成功した...

出典: Zenn AI(配信元の紹介文より引用)
御社でもAIを使ってみませんか
まずはここから 御社でもAIを使ってみませんか? 御社の実際の業務を題材に、AIで何ができるかを一緒に考えます。 「ChatGPTの使い方」を教えるだけの研修ではありません。 AI研修・AI活用相談 →