AIの鬼
#新モデル ITmedia AI+

NVIDIAが30Bのオープンモデル公開 「OpenClaw」など常時稼働エージェント向けに設計

NVIDIAが30Bのオープンモデル公開 「OpenClaw」など常時稼働エージェント向けに設計(内容を表す図ではないイメージ画像)
イメージ

NVIDIAが300億パラメータのオープンモデル「Nemotron 3.5 Lightning」を公開しました。AIエージェント運用に特化したこのモデルは、「小規模モデル並みのコストで、大規模モデル並みの処理能力」を実現するという触れ込みです。重要なのは、実際にそれを達成している点です。モデルの中に複数の処理役を用意し、入力に応じてその一部だけを動かすMoE(Mixture of Experts)アーキテクチャを採用しており、推論時に動作するアクティブパラメータはわずか30億。それでも、パラメータ数が4倍の米OpenAIの「gpt-oss-120b」と同等の性能スコアを達成しているのです。推論速度は毎秒約670トークンと、同等サイズの他社モデルを大きく上回っています。

これは何を意味するのか。AIのコスト構造が根本から変わる可能性があるということです。大規模モデルを使い続けるのではなく、賢く小さく作られたモデルで十分な性能が出せるなら、インフラコストは劇的に下がります。ここが業界的に面白いのは、このモデルがオープンソースとして「Hugging Face」などで提供されることです。モデルの重みだけでなく、学習データやレシピまでが公開されます。つまり、大企業だけでなく、中小のソフトウェア企業やスタートアップまでが、同等の性能を持つAIエージェントを自社で構築できるようになるのです。これはAI民主化の大きな一歩です。

これまで「AIはコストが高い」と敬遠していた企業こそ、今こそが導入を検討すべきタイミングなのです。Nemotron 3.5 Lightningのような効率的なモデルが手に入るようになったことで、月額数万円のクラウドサービスで実運用可能な水準に達しています。中小企業がAIエージェントを自社業務に組み込む際の心理的・経済的なハードルが、一気に下がったのです。

※ 上記は配信元記事をもとにAIの鬼編集部が要約・再構成したものです。正確な内容は出典元をご確認ください。

御社でもAIを使ってみませんか
まずはここから 御社でもAIを使ってみませんか? 御社の実際の業務を題材に、AIで何ができるかを一緒に考えます。 「ChatGPTの使い方」を教えるだけの研修ではありません。 AI研修・AI活用相談 →