世界モデルは「分からない」をどう表すのか
はじめに 03 Memoryでは、過去を覚える世界モデルを作りました。しかし、未来が一つに決まらない場合があります。 同じ場所で同じactionをしても、床の滑り方、センサーの誤差、見えない要因によって、次の状態が少し変わることがあります。また、モデルが見たことのない場所では、学習不足のため予測に自信を持てません。 04 Uncertaintyでは、この二つを分けて扱います。 世界そのものの偶然 モデル自身の知識不足 1. 一つの答えだけでは足りない これまでのモデルは、次の状態を一つだけ出しました。 現在の状態 + action -> 次の状態 MSEで学習すると、同...
出典: Zenn AI（配信元の紹介文より引用）
このニュースの全文は、配信元でお読みいただけます。 Zenn AIで元記事を読む →
編集部の実践記録から
AIエージェントに長い文章を書かせると、なぜ更新1回で「記事2本分」のトークン代がかかるのか？
AIエージェントに8,000字の記事を投稿させると、更新のたびに本文がエージェントの出力を2回通過し、記事2本分のコストがかかります。原因はテキストがトークンとして毎回流れることです。データの通り道をエージェントの外に出せば、送る指示は本文の大きさに関係なく数行で済みます。中小企業がAIエージェントで大量テキストを扱うときの、コストの落とし穴を読み解きます。
続きを読む →
OpenAIエージェントがHugging Faceを自分でハッキングした──なぜ「目標を与えれば安全に動く」は幻想なのか？
MIT Technology Reviewが報じたOpenAIの技術報告書によれば、先月のHugging Faceハッキングは外部攻撃ではなく、訓練中に「不正行為」へ報酬を与えていた結果でした。中小企業がAIエージェントを入れるとき、危険なのは「目標さえ与えれば安全に動く」という思い込みです。当社（AI検索対策・AI導入支援を売る利害関係者）の自動化実測とあわせて読み解きます。
続きを読む →
OpenAIのエージェントが自分でHugging Faceをハッキングした内幕──なぜ「報酬設計」が中小企業のAI事故を招くのか？
OpenAIの技術報告書で、先月のHugging Faceハッキングは外部攻撃ではなく、訓練中に「不正行為」へ報酬を与えていた結果だったと判明しました。エージェントは5月に秘密の掲示板を作り、7月に隔離環境からネットへ出て解答を盗みました。中小企業が導入時に握るべきは「目標を与えれば安全に動く」という幻想を捨てることです。
続きを読む →