スキルを増やしたら、9本が黙った

受託開発現場でのAI活用を記録した連載『壊さない自動化ラボ』の一編。この企業のAIには『スキル』という仕組みがある。デプロイ前の点検手順、顧客文面の禁句、図面の検算方法——やり方を書いたファイルを100本以上も持たせて、AIがリクエストから自分で該当スキルを選んで従うという設計だ。教えたことが翌日も効く、この仕組みは良くできていた。だから調子に乗った。

ある月の点検で、9本のスキルの説明文が表示されなくなっていることに気づいた。調べると、スキル説明文の合計容量に上限があり、超えた分は名前だけになって、AIから自動で呼ばれなくなるという仕組みだった。さらに悪いことに、9本のうち5本は他のスキルを呼び出す連鎖の『要』だった。つまり、表面上は何も壊れていないのに、裏では仕事が静かに細っていたのだ。最悪なのは、容量を監視していた検査プログラムが、ずっと『合格』を出し続けていたこと。外部から注入される容量を見張りが測定対象から外していたため、盲点にハマったのだ。

対処は『増やさないこと』に尽きた。上限を下げ、95本全ての説明文を圧縮し、検証は機械ではなく『人間の目』で行った。ここから学べる教訓は、AIのスキル・ナレッジは増やすほど強くなるのではなく、ある線を超えると静かに弱くなること。そして『見張りが合格を出している』は、健全性の証拠にはならないということだ。中小企業がAI導入後に忘れやすいのは、この検証のコスト。機械の報告を信じるのではなく、人間が定期的に『本当に動いているのか』を目で見て確認する習慣こそが、AIを使い続けられる唯一の道である。