結論から：AIの失敗事例は他社の話として語られがちですが、この記事は全部自分の話です。株式会社TOEはAI開発とAI活用支援を事業としながら、自社で12件の失敗を記録しています。処理を553件中414件（75%）失敗させ、AIに書かせた記事は21本中20本に誤りがあり、作った決裁の仕組みは実行0通、自動化は3日間止まっても誰も気づかず、自社のAI認知スコアを測ったら100点中10点でした。失敗が起きた場所は7か所に分けられ、そのどれも技術の問題ではなく、先に決めていなかったことが原因でした。
株式会社TOEはAI開発・AI活用支援を事業としており、この記事は提供する側が書いています。中立の第三者ではありません。他社の失敗は扱わず、自社で起こしたことだけを、都合の悪い数字を含めて載せます。
12件の一覧
| # | 何をやらかしたか | 実測 |
|---|---|---|
| 1 | 一括処理でモデルを指定し忘れた | 553件中414件（75%）が失敗。無関係な処理3本まで巻き添えで停止 |
| 2 | AIに記事を書かせて検品したら | 完成21本のうち誤りゼロは1本だけ。修正は70箇所超 |
| 3 | AI翻訳（日→英）を公開しようとした | 品質が公開に耐えないと判断し、載せるのをやめた |
| 4 | 決裁をメール1通まで簡単にした | 実行0通。承認待ちは29件→37件に増加 |
| 5 | 日次の自動更新が止まった | 3日間誰も気づかず。監査ログに記録が残っていなかった |
| 6 | 自社のAI検索での見え方を測った | 100点中10点「AIに認識されていません」 |
| 7 | 何でも自動化しようとした | 27本の内訳は経理13本に対しマーケ1本。定型化できない仕事は載らない |
| 8 | 毎朝動いているはずのジョブを数えた | 5.3日で11回動くはずが1回だけ（91%が発火せず） |
| 9 | タイムアウトを設定した | エラー名は「timeout 900s」、実際のプロセスは139分間生存 |
| 10 | 静かに止まる箇所を数え直した | 12か所。全部エラーを出していなかった |
| 11 | 検索順位を上げようとしていた | 1ページ目に155ページ出ていたが、140ページはクリック0 |
| 12 | サイトを1日点検した | 検索結果に出ているページの3割が404だった |
12件すべて自社で起こしたものです。 他社の事例ではありません。
失敗が起きた7か所
12件を、失敗が生まれた場所で分けるとこうなります。
| # | 場所 | 該当 | 何を間違えたか |
|---|---|---|---|
| 1 | 対象の選定 | #7 | 定型化できない仕事を自動化の対象にした |
| 2 | 設定 | #1 | 使うモデルを書き忘れ、上位モデルが枠を食い潰した |
| 3 | 品質の確認 | #2 #3 | AIの出力を検品する工程を、後から足した |
| 4 | 稼働の監視 | #5 #8 #9 #10 | 「動いているはず」を数えなかった |
| 5 | 定着 | #4 | 使う場面が既存の習慣の中に無かった |
| 6 | 成果の測り方 | #11 #12 | 順位を見ていて、クリックと404を見ていなかった |
| 7 | 自社への適用 | #6 | 他社に売っている道具を、自社に当てていなかった |
7番目が一番こたえました。 AI検索での見え方を測るサービスを持っている会社が、自社を測ったら10点だったからです。原因は記事の不足ではなく、同じ名前の別サービスに説明を持っていかれていたことでした。
場所ごとに、何を先に決めておけばよかったか
1. 対象の選定
社内27本を自動化しましたが、内訳は経理13本に対しマーケ1本でした。サボったのではなく、定型化できない仕事は自動化の対象にならないからです。
先に決めておくこと：その仕事は「入力の形が決まっている」「出力の形が決まっている」「毎回必ず発生する」の3つを満たすか。1つでも欠けるなら、全部は任せられません（経理は13本、マーケは1本）。
2. 設定
一括処理でどのモデルを使うかを書き忘れ、上位モデルが使われて利用枠を食い潰しました。553件中414件が失敗し、社長本人の作業と、動いていた分析処理3本まで巻き添えで止まりました。
先に決めておくこと：使うモデルを明示的に固定する。技術的に高度な失敗ではなく、1行の書き忘れです（AI処理414件を失敗させた話）。
3. 品質の確認
AIに記事を108本書かせる計画を走らせ、完成した21本を全件検証しました。誤りが1つも無かったのは1本だけで、修正は70箇所を超えました。指示には「検索で裏を取れ」「確認できない事例は書くな」と明記してあったにもかかわらずです。
翻訳でも同じ判断をしました。当社は英→日の機械翻訳で1,000件超を公開していますが、日→英だけは「品質が公開に耐えない」として載せるのをやめました。ページ数を稼げるにもかかわらずです。
先に決めておくこと：AIの出力を誰がどう検品するか。「指示に書いたから守られる」は成り立ちません（21本中20本に誤りがあった／日→英だけは載せないと決めた理由）。
4. 稼働の監視
ここが件数として最も多く、4件あります。
- 日次更新が3日間止まっていたのに誰も気づかず、監査ログにも記録が残っていなかった
- 毎朝動くはずのジョブを5.3日ぶん数えたら、11回のうち動いたのは1回（91%が発火せず）
- タイムアウトのエラー名は「timeout 900s」なのに、実際のプロセスは139分間生きていた
- 静かに止まる箇所を数え直したら12か所あり、全部エラーを出していなかった
先に決めておくこと：止まったとき、どうやって気づくか。当社は「自動で動く処理を1本増やすたびに、これが止まったらどう気づくかを一緒に決める」という運用に変えました（3日間止まっていたのに誰も気づかなかった／91%が発火すらしていなかった／エラーを出さずに止まる12件）。
5. 定着
決裁を「メール1通返すだけ」まで簡単にしましたが、実行されたコマンドは0通、承認待ちはむしろ29件から37件に増えました。仕組みは正常に動いていました。
先に決めておくこと：それを使う場面が、既存の1日の流れの中にあるか。無いなら、新しい習慣を作らせることになります（実行0通だった／導入したツールが使われない）。
6. 成果の測り方
検索の順位を上げる作業をしていましたが、数え直すと1ページ目に155ページ出て562回表示され、そのうち140ページはクリックが0でした。順位ではなく、検索結果に出ているタイトルと説明文の問題でした。
別の日には、サイトを点検したところ検索結果に出ているページの3割が404でした。
先に決めておくこと：何を見て「うまくいっている」と判断するか。順位・アクセス数・件数のどれを見るかで、見落とすものが変わります（140ページはクリック0だった／検索結果の3割が404だった）。
7. 自社への適用
AI検索での見え方を測るサービスを他社に提供している当社が、同じ道具で自社を測ったところ、AI認知スコアは100点中10点、判定は「AIに認識されていません」でした。AIが説明の根拠にしていたのは、同じ名前を使う別のサービスやAIイラスト作家の投稿ばかりでした。
先に決めておくこと：自社の商品を、自社に当ててみたか。当てていないなら、その理由は何か（自社を測ったら10点だった）。
12件に共通していたこと
並べてみると、共通点が3つありました。
| 共通点 | 中身 |
|---|---|
| エラーが出ていない | 12件中、明確なエラーで気づけたのは1件（#1）だけ。残りは正常に見えていた |
| 数えるまで分からなかった | 「動いている気がする」「うまくいっている気がする」で止まっていた。回数を数えると0や91%が出てきた |
| 技術ではなく、決めていなかった | どの失敗も、先に1つ決めておけば防げた。難しい技術の問題は1件も無い |
「感触」で運用している間は、失敗が見えません。 数えて初めて数字が出ます。
AI開発会社に依存する構造について
上の12件は自社の話ですが、外注する側のリスクも1つ挙げておきます。これは自社実測ではなく外部調査の数字です。
米国企業の経営幹部500人への調査では、74%が主要なAIベンダーへの依存で「日常業務に支障が出る」以上と回答し、89%が「4週間以内に別ベンダーへ移行できる」と考えている一方、実際に移行を試みた企業でスムーズにいったのは42%だけでした。
見通しと実態に差があります。要点は「止まったときの人手の代替手順を残しておく」ことです（AIベンダーに依存して身動きが取れなくなる構造）。
この記事で言えないこと
- 他社の失敗事例は扱っていません。 当社は提供する側で、その立場にありません
- 12件を防ぐ完全な方法も書けません。 当社も直しながら運用しています
- 全部解決したとは書けません。 承認待ちは今も増えたままで、AI認知スコアの改善効果もまだ測れていません
- ここに載せたのは、当社の実行ログとサイトの実測から数えた事実だけです
まとめ
- AIの失敗事例は他社の話として語られがちだが、この記事は全部自分の話。当社の12件
- 553件中414件（75%）失敗／21本中20本に誤り／実行0通／3日間停止に気づかず／自社のAI認知スコア10点／1ページ目155ページ中140ページがクリック0
- 失敗が起きた場所は7か所 — 対象の選定／設定／品質の確認／稼働の監視／定着／成果の測り方／自社への適用
- 最も件数が多いのは稼働の監視（4件）。「動いているはず」を数えていなかった
- 一番こたえたのは自社への適用。他社に売っている道具を自社に当てていなかった
- 共通点は3つ — エラーが出ていない（12件中11件）／数えるまで分からない／技術ではなく決めていなかった
- 難しい技術の問題は1件も無い。 どれも先に1つ決めておけば防げた
- 外注する場合は、89%が「4週間で移行できる」と考えるが、実際にスムーズだったのは42%（外部調査）
この記事の立場 株式会社TOEはAI開発・AI活用支援を事業としており、提供する側が書いています。中立の第三者ではありません。他社の失敗は扱わず、自社で起こしたことだけを載せています。ここに挙げた失敗の一部は現在も解決していません。
実測値の出所 - #1〜#12: 株式会社TOEの実行ログ、cron設定、Google Search Console（2026年7月〜8月1日）。各件の詳細は本文中の記事に個別の記録があります - ベンダー依存の74%・89%・42%: 米国企業の経営幹部500人を対象とした外部調査。自社実測ではありません
