ACEをより少ないトークンで実装

エージェント型のAIにメモリを持たせるという試みがある。過去に失敗した使い方、成功した使い方を学習させて、次のタスクに活かすアプローチだ。2つのシステムが同じ問題意識で開発されている。Googleの研究チームによるACEと、別研究機関のALTK-Evolveだ。両者の考え方は共通している。エージェントが失敗から学んだ教訓は、ダイジェストに圧縮してはいけない、という点だ。「短い指示に優化することで詳細が失われる」「全体を要約し直すと、段階ごとに情報が減衰する」という2つの陥穽を避けるため、双方とも教訓を「細かく数え上げたままの形」で保持する。ACEはそれを「プレイブック」と呼び、ALTK-Evolveは「ガイドライン」と呼ぶが、本質は同じだ。失敗ケースごとに「このパターンでこう失敗した」という粒度を保ったまま、支援数（何回その教訓が出てきたか）をカウントして、重要度の高い教訓ほど意識に上りやすくしている。

しかし、ここから先が違う。ACEは毎回、そのプレイブック全体をモデルに注入する。一方、ALTK-Evolveは、タスクごとに「今のこのタスクに必要な教訓だけを選んで」注入する。結果、同じ精度を保ったまま、トークン使用量（つまりコスト）が劇的に下がった。弱いモデルで比較すると、ACEと同等の精度を約7分の1のトークン数で実現しているという。これは大きい。理由は単純で、「毎回全部覚えていることを伝える」のは、「覚えていることは覚えているが、今は一部だけを言う」より、むしろ効率が悪いということだ。人間の会話でも同じ。全ての過去経験を毎回話題にする人より、今の文脈に合う話だけを選ぶ人の方が、聞き手は話を理解しやすい。

中小企業がAI導入を考えるとき、見落とされやすいのが「学習と推論のコスト」だ。高精度のモデルを使うと、費用も高くなる。しかし今の話題は、「どの情報を保持するか」という設計で、精度は変わらずコストを減らせるということだ。つまり、同じ仕事をさせるなら、「むやみに大量情報を流す」より「必要な情報だけを手渡す」方が、導入単価は下がる。ここが企業ツール化の分かれ目だ。デモンストレーション段階では「全部の知識で答える」という豪華な構成にしておいて、本番運用では「最小限の知識で最大の精度」という構成に切り替える。その切り替えをどう実装するかは、AIベンダーの工夫どころだが、選ぶ側が「このオーバーヘッドは何か」と気づくことが、最初の一歩だ。