Base Labs、Hugging FaceやGoodfireとのオープンウェイトAI安全性で提携

研究グループBase LabsとHugging Face、Goodfire AIが提携し、オープンウェイトAIモデルの安全性インフラを構築する取り組みを開始した。きっかけは、オープンモデルの安全装置を外す「abliteration」という技術が蔓延し、Hugging Face上に6,000以上の悪用モデルが存在することだ。この提携の狙いは、訓練時点で透明性と安全装置を組み込む「標準」を作ることで、後付けの修正に頼らない設計を目指している。AIの鬼の視点では、これはオープンソースAIと「AI安全」の対立構図が変わりつつあることの証だ。従来、オープンモデルは「何でもあり」と見なされていたが、企業が堂々と「我々がオープンモデルの安全性を守る」と言い始めた。本音は、悪用ケースが可視化されすぎて、企業側が自衛を迫られているということ。6,000というモデル数は放置できない規模であり、業界全体が対応せざるを得なくなった。「透明性を組み込む」というのは実質的に「後から取り除けない安全装置」を最初から仕込むという意味だ。中小企業がオープンソースAIを自社で運用する際、今後は「どのモデルか」より「誰がそのモデルを管理しているか」が重要になる。Hugging Faceなど信頼できるプロバイダーの「管理済み」モデルを選択することが必須の判断基準になるだろう。