Claude のセーフガード、生物兵器研究で回避される
危険な生物学的研究は正当な研究と区別しづらく、AI のセーフガード構築を難しくしている。
出典: Ars Technica AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 Ars Technica AIで元記事を読む →
編集部の実践記録から
AI解体新書
MetaのMuseはOpenClawの焼き直しなのか？中小企業が個人向けAIエージェントを業務に入れる前に確かめること
MetaのAIエージェント「Muse」はOpenClawと同じファイル名や文言を使っていますが、Metaは「ゼロから構築した」と説明しています。中小企業が確かめるべきなのは、模倣かどうかより安全面です。Metaが利用者データにアクセスできること、学習利用が初期設定で有効なこと、乗っ取りにつながるゼロデイ脆弱性の指摘があることを、業務で使う前に確認してください。
続きを読む →
AI解体新書
暴走するAIエージェントは「外側の見張り」で止めるのか──Nvidia「Open Agent Safety Platform」で中小企業のエージェント導入は何が変わるのか？
Nvidiaは、AIエージェントの外側に独立した見張りを置く「Open Agent Safety Platform」を発表しました。中小企業がすぐ使える製品かどうかは素材からは分かりません。ただ、「最初に権限をすべて取り上げる」「見張りをエージェントと別の場所に置く」という設計の考え方は、導入前の確認項目としてそのまま使えます。
続きを読む →
AI解体新書
未把握のAIエージェントが1社で21,000個とRecoが主張──5500万ドル調達のいま、中小企業はAIツールの棚卸しを先にやるべきか？
AIエージェントのセキュリティ企業Recoが5500万ドルを調達し、累計は1億4000万ドルになりました。同社はFortune 100の顧客1社で未把握のエージェント21,000個を見つけたと述べています。中小企業が先にやることは製品選びではなく、社内で動くAIツールと自動化の棚卸しです。ただし数字はすべて売り手側の発言で、他社報道での裏取りはできていません。
続きを読む →