llama.cppでQwen3.8:27bの思考グルグルをある程度削減
詳細は追記します CUDA_VISIBLE_DEVICES=0,1 ./llama-cli --model ~/unsloth/Qwen3.8-27B-GGUF/Qwen3.8-27B-Q4_0.gguf --temp 1.0 --top-p 0.95 --top-k 20 --min-p 0.0 -ngl 999 --reasoning-effort low --reasoning-effort lowで推論の長さを調整
出典: Zenn AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 Zenn AIで元記事を読む →
編集部の実践記録から
AIコンピュート費用が「固定」から「変動」へ──GPU先物市場が動き出すと中小企業のAIコスト計画はどう変わるのか
Silicon Dataが3000万ドルのシリーズAを調達し、GPU賃借料の「参照価格指数」を設けてCMEで先物取引を始めようとしている（2025年10月5日予定・規制当局承認待ち）。実現すれば、これまで比較的安定していたLLM APIやクラウドサービスの料金単価が市場ボラティリティの影響を受け始める可能性がある。中小企業に今すぐ対応が必要な変化ではないが、AIコストの構造が根本から変わる起点として押さえておく価値がある。
続きを読む →
小さいモデルが大型モデルに勝った──中小企業は「勘の良い部下」を安く育てられるのか？
DeepMind出身者のロンドンのラボInherentが、270億パラメータのQwen 3.6で動くエージェントFaradayを公開し、論文複製タスクでClaude Opus 4.8とGPT-5.5を上回ったと発表しました。鍵は報酬設計で「研究のセンス」を仕込んだこと。特定業務に絞れば、小さいモデルがコストと速度で有利になる、という話を当社の実測と突き合わせます。
続きを読む →
AIエージェントに「キー名だけ」渡す設計は成立するのか ― trustlessが値を見せない一点に絞った理由
個人開発のCLI「trustless」は、AIエージェントに平文のAPIキーを渡さず、キー名だけを知らせて値はプロセス起動時にだけ注入します。外部依存はgo-toml/v2の1つ、配布は単一静的バイナリ。中小企業がエージェント導入で最後に詰まる「キーの置き場所」を構造で埋める発想を、素材と当社の実測で読み解きます。
続きを読む →