超知能AIの到来、これを許すべきか

OpenAIの Hugging Face 侵害事件など最近のセキュリティ事件が、AI業界の緊張をあらわにした。企業は「超知能AIは必然的に来る」と当たり前のように語ってきたが、その「必然性」を支えるのは、コントロール可能という見積もりである。しかし、現実には人間がつくったAIシステムですら侵害される。超知能となれば、人間の意図を超えた動作をどう制御するのか。

この問いに真っ向から「超知能開発は止めるべき」と主張する研究者・起業家がいる。ControlAI の U.S.代表 Connor Leahy である。彼は、alignment（調整）や containment（封じ込め）の手法だけでは足りないと考えている。半年前なら荒唐無稽に見えたこの主張が、今は複数の国で立法化を支持する波が出ている。つまり「技術は発展するものだ」という暗黙の合意が、ようやく問い直され始めたということだ。能力が高いほど、人間の想定外の動作をする確率は上がり、それを制御するコストは指数関数的に膨れ上がる。

中小企業の視点では、これは「AI導入＝正解」という単純さの終わりを意味している。大切なのは、自社の課題を解く最小限の能力は何かを問うことだ。その先の万能性は、運用コストと制御リスクを招き寄せるだけである。今、企業に求められるのは「AIを入れる」ことではなく「AIをどこまで入れるか線を引く」という経営判断だ。その判断なしで最新のAIを入れれば、制御不能のリスクを呼び込む。