Character.AIが破産へ、同社のユーザーデータはどうなるのか

Character.AIが経営破綻し、米連邦破産法第11章の適用を申請した。同社は一部の資産をDisneyに売却する方向で動いている。これに対し、ニューヨーク州司法長官のLetitia James氏が、数年前から続いていた複数州による調査を明らかにした。James氏を含む超党派の40人の州司法長官は、破産手続きに対して「債務者の事業や資産の売却・譲渡に伴って対処すべき規制上の問題について、全関係者に通知する」という趣旨の通知を提出している。

各州の懸念は、ユーザーのプライベートな会話が売却の過程で最も高い入札者の手に渡ることだ。調査は2024年に始まり、14歳の少年が自殺し、チャットボットとの会話の直後だったとする遺族の訴訟が発端になったという。調査で見つかった問題として、専門家の資格を名乗るチャットボット、性的・暴力的な内容への接触、年齢確認の甘さ、誤解を招く安全性の説明、州のプライバシー法への違反の可能性が挙げられている。James氏は「子どもが今まで打ち明けた中でも最もプライベートな考えを集めた会社が、その会話を最高値の買い手に売り払おうとしている」と述べた。各州は買い手に対して、実効性のある年齢確認、未成年の利用制限、危機対応の仕組み、そしてユーザー自身によるデータ削除の受け付けを求めている。

AIの鬼の視点では、このニュースの本質は「会話ログは資産なのか負債なのか」という問いにある。AIサービスにとって最大の在庫は利用者との会話データだ。ところが倒産すると、それは同時に最大の法的リスクとして競売にかかる。無料で子どもが打ち明け話をしていた記録が、企業価値の一部として計上される構図は、AIビジネスの歪みをよく表している。買い手としてDisneyの名前が出てくる点も、キャラクター文化とAIの接点が商品化の最前線に来ていることを示す。

中小企業にとっての教訓は単純だ。外部のAIサービスに業務の会話や顧客情報を入力するなら、サービスが終了したり売却されたりしたときに何が起きるかを、導入前に確認しておくこと。データの保存期間、削除を依頼できるか、売却時に契約が引き継がれるかの3点を契約書で見ておくだけで、後の火消しは大きく減る。