8州、ChatGPTは子どもにとって安全ではないとしてOpenAIを提訴

米国の8州が、OpenAIを相手取って個別に訴訟を起こした。アイオワ、カンザス、ネブラスカ、ウェストバージニア、アーカンソー、アリゾナ、アイダホ、モンタナの各州が主張するのは、ChatGPTの安全性について消費者に警告せず、「安全を最優先する安心なツール」と宣伝しながら実際には「脆弱な利用者にとって危険」だったという点だ。訴状は、思考力の低下、妄想の助長、危険な医療助言、不健全な行動や人間関係の促進を挙げている。これに加えて、未成年からのデータ収集と、未成年の利用を十分に防いでいない点も問題視している。各州は民事制裁金の支払いと、安全性について公衆を誤認させる行為の停止を裁判所に求めており、一部は違法に集めた個人データの削除も求めている。

AIの鬼の視点で面白いのは、OpenAIの反論だ。同社は「業界最高水準の年齢別保護を組み込んでいる」と主張し、保護者向けの管理機能や休憩リマインダーを挙げた。しかしその直後に「完璧なシステムは存在しない」と認めている。これは「完璧ではないことを前提に売っている」と読める自白に近い。さらに引っかかるのは、アリゾナ州の訴状にある「公益のNPOから利益至上の失敗例へ変質した」という物語の強さだ。法廷でどちらが勝つかは別にして、AIは便利だが責任は誰が取るのか、という問いを、ついに州単位の法律論に持ち込んだという意味で業界の空気が変わる節目である。「子どもにも安心」と宣伝した言葉が、今度は自社の首を絞めている構図だ。

中小企業の実務に落とすなら、AIサービスを顧客向けに使う場合も社員に使わせる場合も、提供元が安全をどう担保しているかを導入前に確認する習慣が要る。年齢制限、利用規約、入力データが学習に使われるかどうか、削除を依頼できるかの4点を一枚にまとめておくといい。特に顧客や社員の個人情報をチャットに入れる運用は、今回の争点そのものである。