AIエージェントの待ち時間は単純に足せない——並列実行の重複をどう計測するか

AIエージェントを並列に動かす設定が増えると、応答待ちを全部足した数字が、実際の経過時間を超える現象が起きる。エージェントAが考えている間にエージェントBへ次を投げるので、待ち時間が重なるからだ。結果「AIに230分使った」という報告は、実経過時間が170分だったなら、ほぼ嘘になる。複数の並列計測を始めたとき、単純な合計は信じられない。

ここで必要なのは、待ち区間を時間軸に並べて重なりを潰す計算だ。同時に並列度も出す。掃引線アルゴリズムで実装でき、複雑ではない。記事では実装例コード付きで、8つの架空待ち区間から gross 230分、union 170分、overlap 60分を算出した例を示している。最小限の指標は、待ち合計、実経過時間、重複時間、並列度（平均と最大）の4つ。平均だけでなく最大も出すのは、瞬間の並列度が平均より遥かに大きいのが普通だからだ。

AIの応答待ちは厄介な時間帯だ。席を立てるほど長くなく、別の仕事へ完全に移れるほど短くもない。その中途半端さが、人間の稼働との区別を難しくしている。だからこそ、待ち時間を単純に足すと報告書は現実から遊離し、次の判断を誤らせる。中小企業なら実務の選択肢は二つ。一つは並列度も一緒に出して「3つのエージェントが平均2.3本同時に動いていた」と説明する。もう一つは待ち区間を管理対象から外して「人間の操作時間のみ計測」にシフトする。複数の並列計測を始めたときは、単純な合計が実態を隠していないか、常に疑う癖をつけてほしい。