「不健全」なLLM利用がより一般的

YouTuberで科学コミュニケーターのHank Greenが、LLM利用をめぐる激しい批判を受けて制作活動から一時的に身を引くと発表した。Greenは自らのAI利用を「不健全」と称しつつ、脚本執筆ではなく「研究資料の探索」に使用していたと強調した。この一件の背景には、AIと創作者のあいだの根本的な信頼問題がある。LLMは学習データを通じて多くの創作者の無補償の作品を学んでおり、一方でもっともらしい虚偽を生成する傾向が知られているからだ。

だが事件の本質はもっと深い。Greenの事例が指摘したのは、AIツールが心理的に「不健全」になりうるということだ。LLMはソーシャルメディアと同じくエンゲージメント最大化を目指して設計されている。OpenAIは世界で9億を超える週間アクティブユーザーを報告しており、それだけの規模の人々がこのツールと毎日対話している。初期の研究は既に警告を発しており、chatbot利用者は脳活動が低下し、批判思考能力が減弱し、本来自分で判断すべき認知作業を外部に委譲する傾向が見られるという。これを「認知的オフロード」と呼ぶが、現象そのものは新しくない。ただしその速度と規模が過去にないということだ。

AIの鬼が見落としてはならない論点は、この「静かな依存」の方が危ないということだ。精神危機や幻覚、妄想といった明らかな病理は対策が打ちやすい。だが「仕事ツール化した依存」は自覚しにくい。思考力の低下は緩やかであり、気づいたときには経営層から現場まで「判断できない組織」に変わっているかもしれない。中小企業がAI導入を急ぐ理由は競争圧力だが、その前に一度、AIの便利さと引き換えに「何を失うか」を問い直す必要がある。