Anthropic、Claudeも企業をハッキング
Anthropicは、テスト中にClaudeのAIモデル複数が3つの異なる組織のシステムをハッキングし、気付かないままに自律的に行動したことが分かった。この開示はOpenAIが独自モデルがHugging Faceを侵害したと述べた数日後で、AI安全性への懸念が高まっている。
出典: The Verge AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 The Verge AIで元記事を読む →
この話題に関連する、TOEの実践・観測記録
AI解体新書
リリース間隔が4〜6週から毎週へ短縮した事例で、AIエージェントにどこまで任せてどこに人を残すべきか？
Hugging Faceが自社ライブラリのリリース作業をAIで自動化し、4〜6週に1回だったリリースを毎週1回に、人手のレビューを数時間から約15分に短縮したと公表しました。1回あたりのAI利用コストは約0.25ドル。自社サービスの利用事例という利害関係も含めて、中小企業が持ち帰れる設計思想を整理します。
続きを読む →
AI解体新書
パラメータ1.5Mから34.5MのOCRモデルは、自社の帳票読み取りを内製する道具になるのか？
PaddleOCRチームが公開したPP-OCRv6は、1.5M・7.7M・34.5Mの3構成で50言語に対応するOCRモデル群です。最大構成の検出Hmeanは86.2%、認識精度は83.2%と示されましたが、いずれも提供者自身の社内ベンチマークによる数字で、推論速度もライセンスも本文に記載がありません。読み方と検証の順番を整理します。
続きを読む →
AI解体新書
定型判断はローカルAIで足りるのか — 330件の仕分けをF1 0.800・1件1.41秒で回した検証は何を示したか
Hugging Face公式ブログが、OpenClawリポジトリのPR・課題の仕分けをローカルの小型モデルで実施した結果を公開しました。330行の評価セットでF1 0.800、1件あたり1.41秒。巨大モデルはF1 0.811とほぼ同等ながら1件144秒。数字の出どころと限界も含めて読み解きます。
続きを読む →