ローカルLLMだけで会社を回す——全部門の構成と検品の設計

会社の全従業員がAIで、人間は理事長1人——こんな組織が、手元のMac一台で実際に動いている。その企業が公開した、全部門の構成と検品設計が興味深い。作詞・作曲・映像・検品・コード実装、すべての実務推論をローカルモデルで回しながら、何が壊れて、何をやり直したのかまで記録している。

AIの鬼が引っかかるのは、ここだ。世間では「APIか自前ローカルか」で二者択一を迫られることが多い。だがこの企業は、戦略を回す総監督だけ当初82.5GBの大型ローカルモデルを使い、ひと巡40分かけて思索していた。それを後に小型APIモデルに切り替えたら15秒に短縮した。つまり本当のポイントは「大小ではなく、役割で使い分ける」ことだ。遅くてよい仕事には大きい頭を、速さが要る検品には小さい頭を。この配役制の発想は、実装の細部より、AIとの付き合い方の哲学に関わる。

検品設計の「数えられることは機械が数える」という原則も同じだ。組織内の掲示とシステムの実態がずれていないかをチェックするとき、LLMに「感想をくれ」ではなく、JSON・ファイル・プロセス一覧を決定論で突き合わせるスクリプトにした。LLMが出番なのは「これは軽微か重大か」といった趣味の判定だけ。機械的に数えられる部分を人間の感性に委ねると、締切が迫ったときに必ず基準が緩む。ここを絶対化するのが安定化の要である。

三つの失敗記録も実務的だ。30Bのコーディングモデルが「全文書き直し」で収束しなかった故障も、自動巻き戻しで他人の作業を消した事故も、総監督に決裁権を持たせて空転した話も、すべて「ルールの置き方か、AIへの入力設計」が原因だった。モデルの賢さ任せではなく、構造で決まる領域と柔軟にまかせる領域を分けること。これは中小企業がAI部門化を試すなら、絶対に先に手がけるべき設計だ。クラウドAPIを使うなら尚更、限られた予算で最大の成果を得るには「どこに大金をかけ、どこで小さく回すか」の配役が効く。