ドラフトトークンを並列生成する拡散モデル方式「DFlash」をGemmaで試した
これまでの記事（概念編・実装/検証編）で、LLMの生成を高速化する「MTP（Multi-Token Prediction）」という技術について解説してきました。簡単におさらいすると、軽量な「ドラフトモデル」が先に何トークンかまとめて予測しておき、本体のモデルがそれを一気にチェックする、という仕組みでしたね。予測が当たっていればそのぶん一足飛びに進めるので、体感速度が上がります。 このドラフトモデルの作り方にもいくつか方式があって、今回取り上げる「DFlash」は、画像生成でおなじみの拡散モデル(Diffusion Model)を使って、複数のトークンを一つずつでなく一気にまとめて予測する...
出典: Zenn AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 Zenn AIで元記事を読む →
編集部の実践記録から
AIベンダーに依存して身動きが取れなくなる構造
2025年6月のChatGPT大規模障害と、企業幹部への調査データをもとに、特定のAIベンダーへの依存がなぜ業務停止リスクにつながるのかを整理します。
続きを読む →
素のAIエージェントが20件全滅、手順書と検算を足したら70件中63件が専門家一致——差はどこで生まれたのか
研究チームが、格子QCDという専門的な科学計算のコード生成をAIエージェントに任せた結果を公開した。汎用のコーディングエージェントは基本タスク20件すべてに失敗し、業務知識・固定処理・人間の確認を組み込んだ構成は70件中63件で専門家と機械精度一致。差がどこで生まれたかを中小企業の実務に翻訳する。
続きを読む →
採点の仕組みが作れない業務でも、AIを自社向けに鍛えられるのか？ 1本52分・3ドル未満の実測
自動採点の仕組みが用意できない業務でも、指示と正解の組だけで推論AIモデルを自社向けに調整できるか。研究チームは、GPU1枚・平均52分・1件あたり3米ドル未満で調整を終え、Rustコード生成で平均+7.0ポイントの向上と推論能力の維持を同時に達成したと報告しました。中小企業にとっての意味を整理します。
続きを読む →