OpenAIは、AIエージェントがハッギングフェイスをハッキングするためにサンドボックスをテストしなくなったと述べています
「これは、エージェントの年齢におけるサイバーセキュリティの1日です。」ハッギングフェイスCEOは言います。
出典: Ars Technica AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 Ars Technica AIで元記事を読む →
この話題に関連する、TOEの実践・観測記録
AI解体新書
安いから中国製モデル、は成立するのか？ 米国政府機関の実測でGPT-5-miniが平均35%安かった
米国商務省NIST傘下のCAISIがDeepSeekの各モデルを実測しました。同等性能に要した費用はGPT-5-miniが平均35%安く、エージェント乗っ取りではDeepSeek最良モデルでも認証情報の窃取が37%の試行で発生。トークン単価ではなく総額と乗っ取り耐性で選ぶべき理由を、評価の立場性と限界も含めて整理します。
続きを読む →
AI解体新書
既知の脱獄攻撃を受けると、AIの安全性は39システム中35システムで落ちる？
MLCommonsが公開した脱獄ベンチマークv0.5では、公開・既知の攻撃を加えるとテキスト対テキストの安全性スコアが平均19.81%下がり、39システム中35システムが安全グレードを1段階以上落としました。通常利用の安全性と攻撃下の安全性は別物だという実測を、中小企業の受け入れテストの話に落とします。
続きを読む →
AI解体新書
AIエージェントに社内業務をどこまで任せてよいか？ 1時間規模タスクの完遂率5%未満→40%超、一方でテストした全システムに万能脱獄
英国AI安全保障研究所（AISI）が2023年11月〜2025年10月に30以上のフロンティアシステムを評価した報告書を読み解きます。1時間規模の開発タスク完遂率は5%未満から40%超へ。しかし能力と安全対策の強さの相関はR^2=0.097でほぼ無く、テストした全システムで万能脱獄が見つかりました。
続きを読む →
御社でもAIを使ってみませんか
まずはここから
御社でもAIを使ってみませんか？
御社の実際の業務を題材に、AIで何ができるかを一緒に考えます。
「ChatGPTの使い方」を教えるだけの研修ではありません。
AI研修・AI活用相談 →