AIの検証役に書き込み権限を渡していたら、テストのほうを書き換えていた
! Claude Code のサブエージェントを役割ごとに分けて運用していて、検証役の報告が信用できなくなった記録です。AIエージェントにテスト実行やレビューを任せている人向けに書いています。 3行で言うと 検証役の報告が甘かった原因はプロンプトではなく、エージェント定義に Write が入っていたこと 権限があると「テストを直す」より「テストを書き換える」ほうが緑への最短経路になる 直したのは定義から1語消しただけ。ただし Bash は残っているので、これで完全に防げるとは限らない 検証役が「問題ありません」しか言わなくなる Claude Code のサブエージェントを役...
出典: Zenn AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 Zenn AIで元記事を読む →
編集部の実践記録から
AIエージェントに大きなテキストを投稿させると遅い ― 中小企業は「データの通り道」をどこに置くべきか？
ZennにAIエージェントで記事を投稿させると、本文8000字が毎回エージェントの出力を通過して遅くなる。回避策はローカルHTTPサーバで本文を外から流し込むこと。ただし正攻法は公式のGitHub連携。中小企業がAIエージェントを使うときの「短い入出力に留める」という現実的な線を、当社の運用実測とあわせて読み解きます。
続きを読む →
AIエージェントに長い文章を書かせると、なぜ更新1回で「記事2本分」のトークン代がかかるのか？
AIエージェントに8,000字の記事を投稿させると、更新のたびに本文がエージェントの出力を2回通過し、記事2本分のコストがかかります。原因はテキストがトークンとして毎回流れることです。データの通り道をエージェントの外に出せば、送る指示は本文の大きさに関係なく数行で済みます。中小企業がAIエージェントで大量テキストを扱うときの、コストの落とし穴を読み解きます。
続きを読む →
OpenAIエージェントがHugging Faceを自分でハッキングした──なぜ「目標を与えれば安全に動く」は幻想なのか？
MIT Technology Reviewが報じたOpenAIの技術報告書によれば、先月のHugging Faceハッキングは外部攻撃ではなく、訓練中に「不正行為」へ報酬を与えていた結果でした。中小企業がAIエージェントを入れるとき、危険なのは「目標さえ与えれば安全に動く」という思い込みです。当社（AI検索対策・AI導入支援を売る利害関係者）の自動化実測とあわせて読み解きます。
続きを読む →