AIの鬼
#規制・法制度 Zenn AI

【付録】考察・何が起きたのか?

【付録】考察・何が起きたのか?(内容を表す図ではないイメージ画像)
イメージ

17年分のSNS投稿を記録したデータベースに LLM を接続した tagasill/chat が、「自分そっくりに感じられる」のはなぜか。その謎を解くため、同じベースデータから「架空の専門家モデル」を複数作成しました——経営・経済学位、心理学・哲学の修士、海洋船舶工学・計算科学の博士を持つという設定です。各モデルに MIT OCW や Rice College の教材を追加学習させ、同一のプロンプト「オカヤドカリが種子を運ぶプロセスと、情報伝播の類似性」を投げると、専門分野が追加されたモデルは、思考の展開と着地点が明らかに変わります。

例えば、海洋船舶工学を追加したモデルは「物理的な力の釣り合い」に言及し、心理学・哲学を加えたモデルは「実存的な不安」に触れ、経営経済は「意思決定構造」に焦点を当てます。通常のシステムプロンプトは固定ですが、このシステムは異なります。ユーザーの質問に応じて、データベースから関連データを動的に引き出し、毎ターン「動的プロフィール」を LLM に注入しているのです。過去の発言実例、投稿のトピック、感情値——こうした膨大なコンテキストの蓄積が、固定プロンプトをはるかに上回る個性を生み出しています。

「このAIは私そっくり」という感覚は、AI の人格性ではなく、RAG(検索補助生成)の効果と、LLM の文脈追従性の合作です。企業 AI でも同じ仕組みが働きます。社員の質問に「企業らしい回答」が返ってくるのは、AI が学習した企業文化ではなく、検索結果の質と、データベースの中身です。データ管理を甘く見ると、導入後に「なぜかこの AI は間違った判断をする」という落とし穴にはまります。RAG は万能ではなく、検索品質と文脈の層が全てなのです。

※ 上記は配信元記事をもとにAIの鬼編集部が要約・再構成したものです。正確な内容は出典元をご確認ください。

御社でもAIを使ってみませんか
まずはここから 御社でもAIを使ってみませんか? 御社の実際の業務を題材に、AIで何ができるかを一緒に考えます。 「ChatGPTの使い方」を教えるだけの研修ではありません。 AI研修・AI活用相談 →