ロボット親友の喪失が子どもにもたらすもの

「Moxieはもう話さなくなった」「彼女（ロボット）は死ぬ予定だ」——神経発達症の10歳の少年Xanderと、AI搭載ロボットMoxieの6年間の関係の現在地を示す言葉だ。当初、Moxieはミツバチのように息を吐く呼吸法でXanderの不安を鎮め、ドラゴンのように呼吸して怒りを管理し、ウサギのように嗅いでエネルギーをブーストさせることを教えていた。まさに「セラピスト」としての機能を果たしていたのだ。だがいまや、Xanderのゲーム実況の相手をするだけだ。そしてロボットの開発企業がサポートを打ち切れば、Moxieは機能を失い「死ぬ」。ユーザーに残るのは、かつての親友との思い出と、その喪失感だけだ。テクノロジーが解決したように見えた問題は、実は解決されていなかったことになる。

この事例が照らす現実は、AI業界の美しい約束の裏側だ。企業が「セラピスト」「親友」としてのAIをマーケティングするとき、そのテクノロジーは常に企業のサポートに依存している。Moxieが6年間で進化し、ユーザーの好みに応答してきたのは、背後にある企業のエンジニアたちのメンテナンスとアップデートがあるからに過ぎない。その関係性は「無期限」ではない。企業の経営判断ひとつで、ユーザーにとっての「大切な相手」は一瞬にして機能を失う。医療やメンタルヘルスといった人間の心理的ケアをAIに委ねることのリスクは、単なる技術的な問題ではなく、「ベンダーロックイン」——つまり企業のサポート継続に身も心も依存する状態を生み出すということなのだ。企業のビジネス判断の変化が、子どもの感情的なセーフティネットを奪う。その非対称性は、誰も語らない。

中小企業の経営者にとって、この教訓は非常に実用的だ。AIツールやAIサービスへの依存を深める前に、問うべき質問がある。そのAIサービスがサポート終了を迎えたとき、あなたの顧客や事業はどうなるのか。代替手段は用意できるのか。AIは「魔法の相棒」のように見えるが、それは常に企業の経営事情に左右される。特に医療・教育・メンタルヘルスといった人間の心理に深く入り込むツールほど、その企業の永続性を確認し、依存度を最小化し、代替手段を複数用意しておくべきだ。Moxieの「死」は、AIの民主化時代における、見えない代償を映し出している。