AIの鬼
#新モデル Zenn AI

Claude Codeで1週間に1Bトークン使ったと思ったら、97%がキャッシュだった

Claude Codeで1週間に1Bトークン使ったと思ったら、97%がキャッシュだった(内容を表す図ではないイメージ画像)
イメージ

Claude Codeで1週間に13億トークン消費したというログが話題になった。驚く数字だが、内訳を見るとほぼ全て既存文脈の再利用だ。97%がcache_read(キャッシュからの読込)で、新しく処理されたトークンは36Mに過ぎない。巨大なコンテキスト――CLAUDE.md、読み込んだコード、ツール定義、会話履歴――をキャッシュから安く何度も参照しながら、少量の新規入力だけを追加処理している構造だ。

AIの鬼が注目するのは、ここまで見ないと実態が分からないという恐ろしさだ。総トークン数だけで驚くのは間違い。キャッシュ効率が高いなら、むしろ「賢い使い方をしている」という証拠だ。ただし真に怖いのは別のところにある。1週間で13,972ターン、つまり1日2,000ターン。入出力比は230対1。つまりClaudeが人間の目に見えないところで膨大な推論を回し続けている。料金表示では見えない「見えない計算」がある。

中小企業への実務含意は、料金の内訳を見よ、ということに尽きる。キャッシュ効率が高い使い方ができるということは、同じシステム・同じ文脈を繰り返し使う業務に向いている証拠だ。定型業務の自動化や、社内ドキュメントを活用した相談業務などがそれだ。逆にキャッシュ効率が低い(cache_readが少なく新規inputが増える)ようなら、文脈が頻繁に変わる不安定な使い方になっていないか、疑ってみる価値がある。

※ 上記は配信元記事をもとにAIの鬼編集部が要約・再構成したものです。正確な内容は出典元をご確認ください。

御社でもAIを使ってみませんか
まずはここから 御社でもAIを使ってみませんか? 御社の実際の業務を題材に、AIで何ができるかを一緒に考えます。 「ChatGPTの使い方」を教えるだけの研修ではありません。 AI研修・AI活用相談 →