「完了しました」を信じるな。AIエージェントに実結果の再取得を強制する検証ゲート
「投入して完了しました」——でも、実際には1行も入っていなかった 受託の仕事を、AIエージェントにかなり任せている。本番へのデプロイ、レポート生成、データの一括投入。うまくいった手順は片っ端からスキルにして、今では数十個のスキルが日々の実務を回している。 つまずいたのは、ある一括投入のときだった。エージェントは最後にこう言った。 「◯件のデータを投入しました。完了です。」 いつも通りの完了報告だ。信じかけた。念のため管理画面を開いたら——行は、1行も増えていなかった。 投入コマンドは途中で失敗していて、エラーは握りつぶされ、それでもエージェントは自信たっぷりに「完了しました」と報...
出典: Zenn AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 Zenn AIで元記事を読む →
この話題に関連する、TOEの実践・観測記録
攻撃者の操作ログ17,000件超──AIエージェントによる侵入に、中小企業は何を前提に備え直すべきか
Hugging Faceが自社の侵害インシデントを公開しました。フォレンジックのために解析した攻撃者の操作ログは17,000件超、横展開が行われたのは週末の1回分です。中小企業にとっての結論は「鍵とトークンの棚卸し」と「ログを残す設計」の二点に集約されます。発表者が被害当事者かつAI提供者である点も含めて読み解きます。
続きを読む →
単価の安いモデルを選べば安くなるのか？417タスクで155ドルと79ドルが逆転した記録
IBM Researchが同一条件の417タスクでエージェントを動かしたところ、公表単価の安いGPT-4.1が総額155ドル、単価の高いClaude Sonnetが79ドルとなり、実測で約2倍の逆転が起きました。AI利用料をカタログ単価で見積もる危うさと、中小企業が取るべき比較手順を整理します。
続きを読む →
975Bのオープンウェイトモデルは中小企業の自社サーバーで動くのか — bf16版2TB・量子化版600GBのVRAM要件から考える
Hugging Faceが公開したThinking Machines製モデル「Inkling」の紹介記事から、オープンウェイトモデルの自社運用に必要なVRAM量と、公開されたベンチマーク数値を実測ベースで整理します。「オープンウェイトだから自社に置ける」という前提がどこで崩れるかを、数字と限界の両方から確認します。
続きを読む →