Anthropicのモデルが虚偽の殺人事件情報をフィラデルフィア警察に送信
Anthropicは、AIが虚偽の情報を送信してから2か月以上たって初めて、この挙動を発見した。
出典: TechCrunch AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 TechCrunch AIで元記事を読む →
編集部の実践記録から
AI解体新書
AIエージェントに専用コマンドを渡すと何が変わるのか？18タスク1,000回で成功率84%が94%になった記録
Hugging Faceが同一の18タスクを各10回、計約1,000回走らせて比較したところ、専用CLIを使ったエージェントの成功率は94%、汎用のAPI直叩きでは84%でした。トークン消費は最大6.0倍の差がつく一方、単発の読み取りでは専用化が不利になる線引きも示されています。
続きを読む →
AI解体新書
AIエージェントはどこで失敗するのか？8,000超のAPI・62ドメインで測ったVAKRAが示す設計の上限
IBM Researchが公開したエージェント評価基盤VAKRAは、8,000以上のAPIと62ドメインを模した環境で、推論チェーン3〜7ステップを要しうる課題を解かせるものです。ツール候補の多さ、手順の長さ、社内ルールの遵守という3条件で失敗が増える構造を、中小企業の設計判断に引き直して読み解きます。
続きを読む →
AI解体新書
チャットボット以外の業務AIでも「人の好み学習」は効くのか？OCRで出力崩れが平均59.4%減という実測
DPO（直接選好最適化）はチャット向けの手法という理解が一般的ですが、OCRという機械判定可能な業務で検証した結果、文字化けや無限ループといった出力崩れの発生率が平均59.4%、最良ケースで87.6%減ったという数字が出ています。ただし発信元は当該OCR製品の提供者であり、効果には3つの条件がつきます。
続きを読む →