AIの鬼
#新モデル Zenn AI

ChatGPTはどのように次のTokenを選ぶのか?

ChatGPTはどのように次のTokenを選ぶのか?(内容を表す図ではないイメージ画像)
イメージ

ChatGPTはどのように次のTokenを選ぶのか? — Sampling・Temperature・Top-K・Top-Pを理解する 前回の記事では、LLMが文章を生成するとき、 Logits ↓ Softmax ↓ Tokenごとの確率 という流れで、次に来るTokenの確率を計算することを説明しました。 では、その確率を使って、実際にどのTokenを選ぶのでしょうか? 今回は、その方法について簡単に整理してみます。 Samplingとは? Samplingは、Tokenごとの確率をもとに、次のTokenを一つ選ぶ方法です。 例えば、 「今日は」 天気 50% 映...

出典: Zenn AI(配信元の紹介文より引用)
御社でもAIを使ってみませんか
まずはここから 御社でもAIを使ってみませんか? 御社の実際の業務を題材に、AIで何ができるかを一緒に考えます。 「ChatGPTの使い方」を教えるだけの研修ではありません。 AI研修・AI活用相談 →