AIの鬼
Zenn AI

AI チャットに履歴を全部投げたら破綻した — 忘れることは、思い出すためにある

AI チャットに履歴を全部投げたら破綻した — 忘れることは、思い出すためにある(内容を表す図ではないイメージ画像)
イメージ

AI と長く付き合おうとすると、意外な限界が現れる。AWAIというサービスの開発の中で見えたのが、チャットの履歴をすべてAIに投げ続けることの問題だ。トークン数には余裕があるのに、会話が20ターンを越えると、AIの動作がおかしくなり始める。原因は上限ではなく、精度だった。処理できる実質的な情報量で、AIの判断精度が飽和する。投げるテキスト量を減らしたら、すぐに改善された。ここに隠れているのは、AIと人間の根本的な違いについての問題だ。人間は『忘れる』。新人が覚えすぎると、次の仕事に上手く向き合えなくなるのは、古い経験が足を引っ張るから。脳は不要な候補を「忘れる」ことで、いま必要な判断に集中できるようになる。しかしAIは『忘れられない』。代わりに、毎回「何を投げるか」を選別しているだけだ。選別と忘却は根本的に違う。選別なら候補はどんどん増え、引く対象が増えるほど選ぶコストは増す。一方、忘却は候補そのものを減らすので、走査が軽くなる。AIが扱えるトークン数を伸ばしたのは、忘れる力を手に入れたからではなく、毎回投げる量を増やす余地が生まれただけだ。それでも、処理できる情報の『質』には限界がある。中小企業がAIチャットやAIエージェントを日常的に使うなら、「ここから先は参照しない」と定期的に線を引く習慣が大事だ。整理=捨てることが、AIの精度を高める。忘れることは、思い出すためにある。AIにそれを代わりにさせるなら、人間の側が意識的に『捨てる』判断をしなければならない。

※ 上記は配信元記事をもとにAIの鬼編集部が要約・再構成したものです。正確な内容は出典元をご確認ください。

御社でもAIを使ってみませんか
まずはここから 御社でもAIを使ってみませんか? 御社の実際の業務を題材に、AIで何ができるかを一緒に考えます。 「ChatGPTの使い方」を教えるだけの研修ではありません。 AI研修・AI活用相談 →