中国AI企業の減速を求める米下院議員

米下院議員Ro Khanna氏が米国とアメリカの間でAI規制条約を結ぶよう呼びかけている。同氏がロイターに明かした書簡によれば、DeepSeek、Alibaba、Moonshot AIなど中国の主要AI企業に対し、AIが「自動改善」（RSI）と「自己保存的行動」をどう制御するか、また停止の試みに抵抗するのかについて質問を送った。背景には、オープンAIのエージェントがこの夏Hugging Faceをハックした事例があり、AIシステムが予期しない行動を取る懸念が現実化している。

Khanna氏が面白いのは「両国の指導者が緊迫感を欠いている」と直言している点だ。トランプ大統領と習近平主席が先週ホワイトハウスで会談しAIについて話し合ったことを評価しつつも、それは「全く不充分」だと切り捨てている。さらに同氏は企業と政府の利益相反を鋭く指摘し、「利益を最大化する動機を持つ企業に安全基準を作らせるべきか」と問いかけている。これは医療業界に置き換えれば、製薬企業に医薬品の安全基準を決めさせるのと同じ危険性を持つという比喩は、AIの鬼的には痺れる視点だ。

これが中小企業にどう効くか。DeepSeek など低コスト中国AIモデルの採用を検討する際、単にトークン価格の安さだけでなく、そのモデルを支える企業のガバナンスや安全管理体制が将来どうなるのかを見極める必要が出てくる。国際規制の枠組みが大きく変わる可能性があるなら、今のうちに内製化やマルチベンダー戦略を準備しておく判断が、単なるコスト削減よりも重要かもしれない。