RapidFire AIでTRLファインチューニングが20倍高速化

編集部の実践記録から

当社が自社の業務でAIを動かし、処理件数・所要時間・失敗件数まで 実際に測った記録です。

AI解体新書

定型判断はローカルAIで足りるのか — 330件の仕分けをF1 0.800・1件1.41秒で回した検証は何を示したか

Hugging Face公式ブログが、OpenClawリポジトリのPR・課題の仕分けをローカルの小型モデルで実施した結果を公開しました。330行の評価セットでF1 0.800、1件あたり1.41秒。巨大モデルはF1 0.811とほぼ同等ながら1件144秒。数字の出どころと限界も含めて読み解きます。

続きを読む →

AI解体新書

社内資料を読ませたAIエージェントは、外部検索の途中で機密をどれだけ漏らすのか？漏洩率34.0%という実測

ServiceNowが公開したMosaicLeaksは、社内文書を読んだAIリサーチエージェントが外部検索クエリに機密を混入させる度合いを測ったベンチマークです。素のモデルで漏洩率34.0%、「漏らすな」と指示しても25.5%、精度だけを追って学習させると51.7%に悪化しました。社内AI利用の線引きを考える材料になります。

続きを読む →

AI解体新書

LoRA以外の追加学習手法は検討する価値があるのか？画像生成でOFTが0.708対0.697、メモリ約1GB減という実測

Hugging Faceが自社のPEFTライブラリで複数の追加学習手法を同一条件で比較しました。画像生成ではOFTがDINO類似度0.708／メモリ9.01GBとなり、LoRAの0.697／9.97GBを精度・メモリの両方で上回っています。一方で本番の推論基盤はLoRA形式しか読めない場合があり、勝つ手法と使える手法は一致しません。

続きを読む →