AIの鬼
#新モデル Zenn AI

Claude Codeのモデル切り替えで書き直しが急増する理由

Claude Codeのモデル切り替えで書き直しが急増する理由(内容を表す図ではないイメージ画像)
イメージ

Claude Codeでセッション中に /model コマンドでモデルを切り替えられるのは便利だ。調査段階はOpusで深く考え、実装はSonnetで手早く進める。あるいは複数の担当者がいるなら、サブエージェント用にHaikuを割り当ててコストを抑える——そうした使い分けをしている人は多いはずだ。ところが長く積み上がったコンテキストの途中でモデルを切り替えると、そのターンだけ突然処理が重くなり、コスト跳ね上がりが起きる。参考記事では「287倍」の急上昇さえ報告されている。

この謎を解くカギはプロンプトキャッシュの仕組みにある。Claude Codeは長い会話を効率化するため、一度送ったコンテキストをキャッシュしておき、次のターンでは差分だけを新規トークンとして送る。このキャッシュが通常の約1割の単価で再利用できるから、長いセッションが割安に回る。しかしこのキャッシュはモデルをまたいで共有されない。SonnetからOpusに切り替えた瞬間、これまで積み上げたキャッシュは無効になり、蓄積されたコンテキスト全体がフル単価で再送信される。つまり「安いモデルに切り替えることでコストを抑えよう」という思惑が、むしろそのターンだけ逆効果になる落とし穴だ。

対策は単純だ。フェーズの節目で切り替える、長時間セッションの途中では避ける、あるいは /cost コマンドでターンごとのトークン量を確認する習慣をつけることだ。コンテキストが短いセッションなら、そもそもキャッシュされる量が少ないから切り替えの影響はわずかだ。月1回の定例業務を同じモデルで最後まで動かすなら、この問題はほぼ関係ない。品質が必要な場面でOpusに切り替える価値がコスト増を上回るなら、気にせず切り替えた方がいい。重要なのは「コストを気にして開発の流れを細かく管理し始めると本末転倒になる」という認識だ。AIを実務で動かす側は、技術的な最適化よりも、判断する側が気にしなくていい運用設計を用意することに優先順位を置くべきだ。

※ 上記は配信元記事をもとにAIの鬼編集部が要約・再構成したものです。正確な内容は出典元をご確認ください。

御社でもAIを使ってみませんか
まずはここから 御社でもAIを使ってみませんか? 御社の実際の業務を題材に、AIで何ができるかを一緒に考えます。 「ChatGPTの使い方」を教えるだけの研修ではありません。 AI研修・AI活用相談 →