聞きながら話すGPT-Live、重い思考をGPT-5.5に回す2層構成

音声アシスタントで一拍おいて返事が来るのは、多くの場合「相手が黙るまで待ってから考え始める」設計のせいだ。従来の方式は、音声認識で文字にし、LLMに渡し、音声合成で読み上げる直列のパイプラインで、ターンの切れ目を無音で判定する。OpenAIが7月8日に公開した「GPT-Live」は、この前提を外し、聞くことと話すことを同時に行うモデルだ。相づちを打ちながら聞き、途中で短く言葉を差し込み、必要なら黙って聞き役に回る。さらに、速い会話係と重い思考係を分けた2層構成になっており、複雑な推論が必要な場面だけ裏側のモデルに処理を委譲する。投げ先は打ち上げ時点ではGPT-5.5とされている。現在はChatGPTアプリ専用で、APIは近く提供予定と案内されている。

AIの鬼の視点で言えば、注目すべきは速さでも賢さでもなく、「速い層と遅い層を分ける」という割り切りだ。レイテンシと知能はトレードオフだという現場の諦めに対し、GPT-Liveは、前段は即応する薄い層で会話を止めず、後段で厚く考えさせるという答えを出した。しかも裏で考えている間も、表の層は相づちや言い直しで間を埋める。人間同士の会話が相手の沈黙を待たずに重なるのと同じ発想だ。ただし、性能の評価はすべて提供元の自己申告で、第三者による検証はまだない。「賢くなった」の中身は、額面通りに受け取らない方がいい。日本語での実用度も、公開後に自分の耳で確かめるべき部分として残っている。

中小企業の実務に落とすなら、今すぐできることは二つある。一つは、APIが来るまでの間に、OpenAIの公開デモにある「軽い会話係と、重い判断を任せる監督役を分ける」構成を自社の用途で試しておくことだ。もう一つは、電話応対やお客様窓口に音声AIを入れる計画があるなら、「間」の体感品質をどう評価するかを先に決めておくことだ。モデルの賢さより、会話の切れ目が自然かどうかが、顧客に届く印象を大きく左右する。