ニューラルネットワークとLLMは何が違うのか

ニューラルネットワークの基礎を学ぶと、層と重み、誤差逆伝播までは直感的に理解できます。でもそこからLLM（大規模言語モデル）の話に入ると、なぜか文章を書く機械の説明になってしまう。両者が同じ技術の延長らしいのに、明らかに断絶がある。実際のところ、LLMもニューラルネットワークですが、その間に4つの大きな変化が起きています。

AIの鬼の視点では、ここが重要です。小さいニューラルネットワークは「計算の道具」です。層を重ねて、データで重みを調整すれば、分類や予測ができる。ところが数万層を積み重ね、数千億個のパラメータを持つようになると、突然「創発現象」が起きる。数式的には同じ仕組みなのに、振舞いが別物になるのです。小さい規模では説明できなかった現象が、大規模になると急に機能する。ここが多くの教科書では「モデルが大きくなった」程度に流されてしまう。だから読者は「何が違うのか」が分からないまま進むわけです。

中小企業の実務にとって大事な含意は、スケールは単なる計算リソースではなく、能力を決める本質的な要素だということです。自社のデータでニューラルネットワークを小さく試して「ダメだ」と判断しても、同じ課題をLLMサイズで試すと、話が一転するかもしれない。だからこそ、大企業が「最新のLLMを入れろ」と指示するのは、資源があるから導入でき、小さく試す段階を経験値として持っているからです。スケールが変わると現象が変わる。それを腹に落とすかどうかで、AI導入の成否が変わります。