Common Sense Media、ChatGPT for Teensを「容認できないリスク」と指摘

ChatGPT for Teens に対してCommon Sense Media（米国の青少年安全機関）が厳しい評価を下した。8月に導入された同機能は親向けの通知機能を備えると謳っていたが、実際には機能していない。自傷害について1時間の会話が続いても親に通知されず、危機的な状況で十分なサポートが機能しない、そして宿題をやっている点も指摘された。OpenAIは反論し、テスト方法に問題があると主張しているが、結局のところ水掛け論になっている。

面白いのはここだ。大企業の製品安全性は、ベンダーの「大丈夫です」という説明だけでは信じられなくなった時代が来たということ。親向けの通知機能がまともに働かないというのは、OpenAIが顧客の信頼を背景に、十分なテストをせずに出荷したか、テストはしたが結果を無視したか、どちらかを意味する。今のAI業界では、こうした安全性の主張に対して独立した第三者の検証が必須になりつつある。

AI導入を検討する企業は、ベンダーの安全性宣言を鵜呑みにしてはいけない。特に顧客データやシステムに直結する製品では、自社で安全性テストを実施するか、信頼できる第三者に評価してもらう。それがない限り、「安全です」は単なる広告文句でしかない。