Anthropic、「Fable 5」の生物学の制限を緩和 誤検知によるフォールバックを約85％削減

Fable 5が「生物学の過保護」を解いた理由、そして医療機関にとっての意味

Anthropicが最新モデル「Fable 5」の生物学分野の安全設定を緩和した。「DNAとは何か」といった基本的な質問まで下位モデルに切り替わる過保護が、フォールバック率85%削減で改善される。医療従事者や研究者にとって、より実用的になるということだ。だが注目すべきは、なぜこんな過度な制限が最初に敷かれたのか、という問いである。

Anthropicは公開当初、ほぼ全ての生物学質問をブロックしていた。理由は「デュアルユース」ジレンマだ。ワクチン開発には病原体の増殖が必要だし、医薬品開発は毒性物質の知識を避けられない。有益な用途と有害な用途の線引きが本来的に曖昧だから、「疑わしきは全部ブロック」という判断をした。だが、この過度な保守性が医療教育や臨床判断の支援といった必要な用途まで排除していた。ここに見えるのはAIセーフガードの現実だ。「安全」とは実は「企業のリスク回避」と紙一重であり、社会にとって必要な知識へのアクセスまで制限する。

Anthropicは「学習データの書き直し」「分類器の再訓練」といった地道な作業で、無害な用途をきめ細かく切り分けた。デュアルユース研究には従来通り制限を維持しながら、医療・教育用途は通すようにした。この「実際のユーザーからの声で適正値に調整する」手法は実用的だ。中小企業にとっての含意は明確。医療、化学、生物系の業務でAIツールを導入するなら、「AIが何を制限しているのか」「その理由は何か」を理解し、その制限が自社の実務に合致しているか自分たちで見定める責任がある。今回の緩和は日本の診療所や中小R&D部門にも波及する。