oMLX 0.7.0 で Flash Next が完走するようになった ─ 使えないと書いたランタイムの再検証

前は「oMLXは選べません」と書いたランタイムが、0.7.0で実用化したという報告。技術者にとって最も大事な教訓が含まれている。それは「ベンチマーク数字 ≠ 実運用」という当たり前のことが、実はとても忘れやすいということだ。前のテストではFlash Nextのキャッシュバグでスピードが出ず、「エージェント用途では使えない」という結論を出した。ところがバグ修正後の同じテストで、今度は完走し、llama.cppを1.4倍から1.9倍上回る速度が出た。AIの鬼がここで突きたいのは、単なる「訂正記事」ではなく、技術検証そのものの難しさだ。記事の著者は「古い0.6.3で測って結論を出していた」と正直に書いている。だが実際には、同じ環境・同じテストで測り直すまで、そこに気づかない。Qwen FlashのKVキャッシュ問題にしても、ただ速度が出ないのではなく「何がキャッシュを捨てているのか」まで調べる手間がある。さらに実運用では、メモリ管理・SSD退避・プロセス名の変更・設定の不安定さなど、ベンチマークには出てこない地味な問題が積み重なる。つまり、新しいランタイムが「実用的」になるには、ベンチマーク合格 → バグ修正 → 運用ノウハウの蓄積という、3段階の時間が必要だということだ。技術選定で「スペック表だけで判断する」組織と「使ってみた人の話を聞く」組織では、導入後のコストが2倍違うこともある。明日の仕事での一言：新しいツール・新しいモデルが出たら、ベンチマーク数字よりも「誰が、どんな課題で、実際に運用しているか」を先に調べる。