ロボットは「賢いAI」だけでは安全にならない――Physical AIを支える確率的な脳と決定論的な安全系

工場の6軸ロボットが、カメラにも力センサーにも異常が記録されていないのに、動きを止めた。AIモデルは「挿入可能」と判断していたのに。その真犯人は、AIの外側に置かれた、地味な監視プログラムだった。センサーの遅延パターンが「普段とは違う」という単純な「しきい値判定」に引っかかり、ロボットが自発的に停止したのだ。もしそれがなければ、コネクタは壊れていたかもしれない。これが、Physical AIの現実だ。

一般には「Physical AI」と聞くと、会話しながら家を歩き回る人型ロボット、あるいはLLMがロボットの中に入って柔軟に判断する未来を想像するかもしれない。だが実際の最前線で起きていることは、もっと本質的だ。それは「確率的に未来を予測するAI」と「決定論的に暴走を止める仕組み」という、性質が異なる二つの技術を同じ機械の中で統合する問題である。AIモデルをどれだけ賢くしても、それだけでは「絶対にしてはいけないこと」を絶対に守らせることはできない。これは、モデルの性能が低いせいではなく、構造的な問題だ。

自動運転の自動車が「限定的なODD（運行設計領域）内でのレベル3」に留まっているのも同じ理由である。E2Eモデルがどれほど運転文脈を理解しても、ODDを超えたとき、センサーが故障したときに「安全側へ確実に遷移する」という別次元の課題がある。それを国際規格UN R157が定めているほどだ。クアルコムが日本にロボティクスセンターを作る理由を、単に「日本の精密機械技術」と説明するのは半分の答えにすぎない。もう半分は、日本の「カイゼン」「安全第一」という文化的強みが、AIの弱点を知ったうえで「それをどう制御するか」という工学に最も適合しているからだ。

製造業がロボティクスを導入するなら、ベンダー選びで見るべきは「AIの精度」ではなく「AIが誤ったときに、何が、どこで、確実に止まるのか」という安全系の設計思想である。その設計思想を持つベンダーがいるか、それらが明確に説明できるか――それが、中期的な競争力になる。