「やるぞ、Cloudflare Workers AI上のOSSモデルへ全面移行！」と意気込んだけど、見送らざるを得なかった話

「食品表示印刷」をはじめとする自社アプリの生成AI機能を、Cloudflare Workers AI上のOSSモデルに全面移行しようとしたが、見送ったという報告だ。きっかけは@cf/openai/...や@cf/google/...といったモデルIDを見たことで、各社APIのCloudflare版を、Workersのすぐ隣で動かせるという発想だった。実際に試してみると話は単純ではなく、結論として全面移行は見送られた。

AIの鬼の視点で言えば、この記事の価値は「移行は安くて速いはずだった」という皮算用が崩れた過程にある。モデルIDが同じ顔をして並んでいると、中身も同じに見える。しかし動くことと業務で使えることの間には大きな溝がある。カタログの見た目で乗り換えを決めて痛い目を見るのは業界の定番の失敗だが、それを自社の判断として正直に書いた点が貴重だ。「どれでも選べます」という売り文句をそのまま信じてはいけないという当たり前を、実際の決断として示している。OSSモデルなら自由が効くという期待と、運用の現実とのギャップこそが読みどころだ。

中小企業の実務では、AIの乗り換えを決める前に、同じ入力に対する出力を自社の業務データで数件比べることが、何より安上がりな検証になる。モデル名や料金表だけで判断せず、いつもの業務を同じ条件で一度流してみることを先にやれ、というのが明日の一言だ。カタログの比較は、現物の比較の代わりにはならない。