Qwen3.8 27B に Reasoning Effort を実装してみる

Qwen 3.8 27Bは、Opus 4.6を一部で上回る推論能力を持つ27Bのローカルモデルです。ここまでの能力が自宅のグラフィックボードで動く時代が来たことに、期待が高まっていました。しかし実運用では予想外の問題が発生しました。「考えすぎ問題」です。Minecraft クローンの開発といった抽象的なタスクを与えると、AIが延々と思考（thinking）を続け、実際の回答に到達する前に生成の上限に引っかかってしまうのです。結果は空の回答と失敗——ユーザーの介入なしには先に進みません。

この問題の解決策は、意外なほどシンプルです。llama.cpp の「per-request reasoning budget」という機能を使い、1リクエストあたりの thinking を強制的に制限するだけ。reasoning_budget_tokens を4096に設定し、長すぎる思考をメッセージと共に打ち切る。すると、同じタスクでも一気に安定します。AIは時間制限の中で「今は考えを打ち切って、判断を下す」という自制を学び、Minecraft クローンの実装から検証まで、一貫して走り切るようになりました。OpenCodeなどのツール上では Variant（reasoning effort）として light/medium/high から選ぶだけで有効になります。

このニュースの本当の価値は、ハードウェア依存ではなく「設定」にあるということです。巨大なGPUや高性能サーバーがなくても、ローカル環境で、ファイル一つの編集で AI の動作を制御できます。中小企業がオープンソースモデルを現場に導入するとき、このような細かい設定が勝敗を分けます。「AI は黒箱」という時代は終わり、いま足りないのは「モデルの選択」ではなく「パラメータの知識」です。現場で「思考が長くて使えない」と判断する前に、バジェット設定を試してみる——それだけで実用化できる領域が広がります。