GPT-6 Astraは何を待ち、いつ指示を取り込むのか — async tool callingとmid-turn steeringを実測

GPT-6 Astra が9月に公開した async tool calling は、一見すると「複数ツール呼び出しの高度化」に見える。だが実装の詳細を見ると、これは AI と人間のやり取りそのものの構造を変える。従来のツール呼び出しは同期型だ。モデルが「レート取得して」と言い、待ってから「送金のコツ」を答える。3秒のツール実行が入れば、ユーザーは3秒待つ。非ストリーミングなら、その3秒がそのままレスポンス時間に乗る。

async tool calling は、ツール定義に async: true を付けると、結果待たずに生成を進める。レート取得とニュース取得が走っている間に、ツール不要な「送金のコツ」を先に答える。例では最初の3秒がほぼ消える。AIの鬼が引っかかるのはここだ。性能の話ではない。実務では、外部 API の応答待ちはよくあるが、同じリクエストに「即座に返すべき部分」と「後から返していい部分」が混在する。従来は全部待って、全部まとめて返す。新機能は「待つ部分と待たない部分を分けて、先に走らせる」という選択肢を与える。これは特に営業支援やチャットボットで、「最初の一文が出るまでの時間」をユーザーに感じさせない仕組みになる。

中小企業の実務では、導入の手間が増える。「このツール呼び出しの結果がないと答えられないか」を設計者が判断して、async の有無を明示する。間違えると、不完全な回答を先に出すことになる。ただし、外部データベース検索や在庫確認のように「数秒かかるが、業務上の正確さは高い」タスクには、部分的な先行回答も実務価値がある。使い方次第で、レスポンス体感が大きく変わる機能だ。