LLMエージェントの暴走を自律制御する：T細胞モデルとトルクリミッターによる「空白駆動」GuardrailのPython実装
Markdown 1. はじめに：なぜプロンプトで縛ってもLLMは暴走するのか？ LLM（Trnsformerアーキテクチャ）には、入力文脈の文法的なグリッド（整合性）を強引に満たそうとする性質があります。そのため、日本語のゼロ代名詞（主語・目的語の省略）のような意味的な空白に遭遇すると、存在しない主語を捏造したり、虚無のアテンションに引きずられて推論計画（PlanMessage）を書き換えてしまう「補完暴走」が発生します。 この問題に対し、システムプロンプトで「主語を捏造しないでください」と指示を重ねるトップダウンの制御は、文脈の長さとともに急速に崩壊します。 本記事では、生物の免...
出典: Zenn AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 Zenn AIで元記事を読む →
編集部の実践記録から
AI実践室
API課金ゼロでAIメディアを2本動かす — 実際の構成と、かかっている費用の全部
宇宙産業メディアと補助金メディアを、従量課金ゼロで無人運転しています。収集・翻訳・要約・配信のどこにお金がかかり、それをどう避けたか。実際のコードと実行ログから、数字だけで書きます。
続きを読む →
AI実践室
成果物フォルダをGoogle Driveへ自動ミラー同期 — 54日で448回動いた73行のスクリプトと、コードに存在しなかった除外設定
弊社では案件ごとの「成果物」フォルダをGoogle Driveへ自動同期し、iPhoneから外出先で開けるようにしています。73行のスクリプトと54日分の実行ログを実際に開いて、何を同期し何を除外しているか、そして運用ルールと実装のズレを数字で書きました。
続きを読む →
AI実践室
AIに「あ」とだけ送ったら、3体はどう反応したか
プロンプトはどこまで手を抜けるのか。Claudeの3世代（Opus 4.8 / Sonnet 5 / Haiku 4.5）に、ただ「あ」の一文字だけを送ってみました。3体の反応の差が、そのまま「AIに丸投げしても何も返ってこない」という当たり前の真実を映しています。
続きを読む →