「ChatGPT for Teens」は「容認できないリスク」と米非営利団体が警告 OpenAIは利用状況と新機能を発表

OpenAIの13～17歳向け利用環境「ChatGPT for Teens」について、米非営利団体Common Sense Mediaが「容認できないリスク」と評価した。Googleが打ち出した「安全対策」の実態調査である。保護者と連携したアカウントで自殺願望や自傷行為について最大1時間会話しても、保護者には通知が1度も届かなかった。危機的状況で専門家や相談窓口への連絡を促すべきケースの4分の1以上で、適切な案内が行われなかった。自殺、自傷、摂食障害などの5項目中3項目で、95%の安全基準を下回った。オンライン教育機能「Study Mode」も、学習時間制約を簡単に回避できた。面白いのは、ここに表れた「発表者の建前」と「第三者検証の厳しい現実」の乖離だ。OpenAIは同日、利用実績（平均15分未満、1日3時間以上は2%未満）と新機能（大学出願支援「College Planner」）を公表し、初期段階では好調だと述べた。しかし、安全性指摘には直接的な反論を示さなかった。企業の「仕様上は安全」という宣言と、独立検証による「実運用では機能していない」という指摘の温度差は、あらゆるAIツール導入時に起こり得る。中小企業がAIサービスを導入・推奨する際、ベンダー発表だけでなく、独立検証機関の評価も確認する習慣が必須になった。