AIを30分ごとに働かせたら、一番怖いのは黙って止まることだった

AIに定期的な仕事を任せるなら、失敗するのは避けられない。だから、失敗するときにどう気づくか、その設計が全部を決める。この著者が30分おきにAIを起こすシステムを運用しているのは、人間が毎回起動するボトルネックを外すためだ。寝ている間も仕事は進む。便利そのものに見える。しかし運用してみると、本当に怖いのはAIが間違えることじゃなくて、黙って止まることなんだと気づく。止まったことに誰も気づかない。人が頭なら起動が止まれば「あ、今日は仕事がないのか」と気づいた。けれど仕組みに入口を移すと、止まっていることそのものが可視化から消える。

これは製造業が昔から知っている話です。作業者が各工程を見張っていた時代から、機械化した時に本当に必要になったのは故障検知。設計する側は、止まったことに誰が気づくのか、そこまで設計する。著者が取った方法は徹底的だ。何ができたら終わりか、やったことをどこに書くか、どうなったら止まるか、止まった理由をどう次に伝えるか。この4つを最初に全部決める。キモは4つ目。落ちた理由の文章をそのまま次の指示に足すだけで、一発で通るようになったという。作る側は毎回ゆらぐが、検査基準は決まっている。なら理由さえ見せれば直る。同じ修正を3回やって駄目なら、もう個別の失敗じゃなくて設計を疑え、というルールも出ている。

中小企業がAIに定期仕事を任せるなら、失敗より先に失敗に気づく仕組みを作ることだ。「止まり方」が仕組みの出来を決める。止まるのは許す。気づかないまま先に進むのが全部を壊す。