GenAIge Cafe #12｜AIの利用枠、何が減らしてるの？ ― TokenとCacheの話

GenAIge Cafe #12 https://genaige.connpass.com/event/409020/ で話した、「GenAIge Cafe #12｜AIの利用枠、何が減らしてるの？ ― TokenとCacheの話」の資料です。
口頭ではお伝えしましたが、人間でのファクトチェックはできていません。
そのため、"だいたい合っている" 程度の参考資料としてご活用ください。

Transcript

1. 01 / 20 GenAIge Cafe #12 Token × Cache AIの利用枠、何が減らしてるの？ TokenとCacheから、AIの「使った量」をちょっとのぞいてみよう 「え、もうこんなに減ってるの？」 その疑問から始める、みんなの交流会。 初心者歓迎 専門用語は後からでOK GenAIge Cafe #12 2026年10月15日（木） 19:00〜21:00 今日の合言葉： Token / Context / Cache / TTL / 利用枠 GenAIge | 2026.10.15 #GenAIge
2. 02 / 20 GenAIge Cafe #12 Token × Cache 今日、話してみたいこと 専門知識は不要。気になったところまで寄り道 OK！ 1 Token 何を数えている？ 2 Context 何が入っている？ 3 Cache 何を再利用する？ 4 TTL 切れたらどうなる？ 5 利用枠 本当に何が減る？ 「これってどういうこと？」を持ち寄る交流会です。 GenAIge | 2026.10.15 #GenAIge
3. 03 / 20 GenAIge Cafe #12 Token × Cache まず、今日の結論から この3つだけ覚えて帰ってもOK。 1 Token 文字数でも 単語数でも byte数でもない。 2 Context 自分の入力だけ ではない。 見えない情報も入る。 3 Cache Tokenを消す のではなく、 再利用する仕組み。 「利用枠が減る」の正体は、ここから見えてくる。 GenAIge | 2026.10.15 #GenAIge
4. 04 / 20 GenAIge Cafe #12 Token × Cache Token（トークン）って何？ LLMが扱う小さな処理単位。分け方はモデルによって変わります。 人が入力した文章 生成AIって面白い！ Tokenizer（切り分け） 生成 AI って 面白い ！ → Token ID（整数）→ LLMが処理 ※ 区切り方は説明用のイメージ。実際の分割・個数はモデル固有です。 GenAIge | 2026.10.15 #GenAIge
5. 05 / 20 GenAIge Cafe #12 Token × Cache Token ≠ 文字数・単語数・ byte数 「1 Tokenは何文字？」には、いつでも同じ答えがあるわけではありません。 × 1 Token = 1単語 英語の長い単語は、複数に分かれることも。 × 1 Token = 1文字 日本語でも、複数文字が 1つにまとまることも。 × 1 Token = 1 byte 文字のbyte数とToken境界は一致しません。 正確な数は、そのモデル・そのリクエストで数える。 GenAIge | 2026.10.15 #GenAIge
6. 06 / 20 GenAIge Cafe #12 Token × Cache 同じ文字列でも、数え方は違う 日本語・英語・コード・絵文字。そのまま文字数では予測できません。 日本語 生成AIは世界を変える。 コード for i in range(10): print(i) 英語 Generative AI is changing the world. 絵文字 󰔡󰗦🚀 「見た目の長さ」と「 Token数」は別の話。 GenAIge | 2026.10.15 #GenAIge
7. 07 / 20 GenAIge Cafe #12 Token × Cache Token数は、文章だけでは決まらない APIリクエストには、目に見えない「同梱物」も付いてきます。 自分の文章 システム指示 これまでの会話 User input System / Developer History ツール定義 画像・PDF等 モデル固有の形式 Tools / JSON Files / Images Request framing Input Tokenは「今送ったひと言」だけじゃない。 GenAIge | 2026.10.15 #GenAIge
8. 08 / 20 GenAIge Cafe #12 Token × Cache Input・Context・Output の関係 Context Window = モデルがそのとき扱える情報の作業スペース。 Input Context Output 自分の質問 システム指示 過去の会話や資料 ツール定義・結果 モデルが参照できる Tokenの上限。 Cache済み情報も含む。 目に見える回答 ＋ 非表示のReasoning等 ※ Thinking / Reasoningの扱いはモデル・APIによって異なります。 GenAIge | 2026.10.15 #GenAIge
9. 09 / 20 GenAIge Cafe #12 Token × Cache Cacheって何をしているの？ 前に同じ長い先頭部分（prefix）を送ったら、次回に再利用します。 1回目 2回目 固定の長い資料＋質問 A 同じ長い資料＋質問 B まず処理 → 必要なら保存 一致するprefixを再利用 Cache Miss Cache Hit Cache Hitしても、 ContextからTokenが消えるわけではない。 GenAIge | 2026.10.15 #GenAIge
10. 10 / 20 GenAIge Cafe #12 Token × Cache Cacheにも「有効期限（ TTL）」がある TTL = Time To Live。モデル・API・設定により条件が変わります。 1 有効な間 一致したPrefixを再利用 → Cache Read 2 失効・変更 期間切れ／先頭部分の変更 → Cache Miss 3 必要なら再作成 再処理・Cache Write → その後にまた再利用 「Cacheそのものが枠を食う」ではなく、失効後の再処理が重い場合も。 GenAIge | 2026.10.15 #GenAIge
11. 11 / 20 GenAIge Cafe #12 Token × Cache OpenAI / Claude / Gemini：Cacheの違い 以下はAPI側の概念比較。一般向けWeb／アプリの内部仕様とは別です。 OpenAI API Claude API Gemini API 自動Prompt Caching中心 モデル世代でTTL・設定に差 Read割引、Write料金も確認 cache_controlで指定 標準5分／延長1時間 Write割増・Read割引 暗黙的・明示的Caching APIやモデルで対応が異なる 明示的保存料金も確認 APIの「30分／ 5分／ 1時間」を、サブスクの共通 TTLと呼ばない。 GenAIge | 2026.10.15 #GenAIge
12. 12 / 20 GenAIge Cafe #12 Token × Cache Cacheは「無料」になる仕組みじゃない 料金・計算・応答時間の扱いが、再利用によって変わります。 1 2 通常Input 毎回、新たに入力を処理する 3 Cache Write 保存するための処理。 APIによって は通常Inputより割高 Cache Read 前回の内容を再利用。通常 Input より安い場合が多い 同じToken数でも、 ReadとWriteでは料金が違うことがある。 GenAIge | 2026.10.15 #GenAIge
13. 13 / 20 GenAIge Cafe #12 Token × Cache 「サブスク利用枠」と「 API課金」は別物 ここを混同すると、「利用枠の減り方」が説明しにくくなります。 ChatGPT / Claude / Gemini 各社のAPI Web・アプリの月額プラン 開発者向けの従量課金 モデル・機能・会話長・計算負荷など 製品独自の利用枠で管理 Input / Cached / Write / Outputなど Token単位の料金表で確認 「APIで $1 = サブスクの ◦％消費」という公式共通式はない。 GenAIge | 2026.10.15 #GenAIge
14. 14 / 20 GenAIge Cafe #12 Token × Cache 「利用枠が急に減った？」と思ったら 可能性はひとつではありません。 1 2 会話が長くなった 3 添付資料が多い PDF・画像・長文 履歴などが増える 4 ツールを使った 検索・多段階処理 高負荷のモデル・設定 Reasoning / effort 5 Cacheが効かなかった TTL切れ・prefix変更 Cacheは原因の「ひとつ」。それだけですべてを説明できるわけではない。 GenAIge | 2026.10.15 #GenAIge
15. 15 / 20 GenAIge Cafe #12 Token × Cache 月額固定でも、 AIの利用には「枠」がある サブスクの代表的な料金と利用枠。追加請求の有無と枠消費は別の話。 ChatGPT Claude / Claude Code Gemini Plus $20 / 月 Pro $100〜 / 月 Pro $20 / 月 Max $100・$200 / 月 AI Plus ¥725 / 月 AI Pro ¥2,900 / 月 モデル・機能ごとの上限 Work / Codexに共有枠あり 5時間枠 ＋ 週間枠 WebとCodeは枠を共有 5時間枠 ＋ 週間枠 Compute-based limits 定額制 = 処理コストや利用枠消費がゼロ、ではない。 GenAIge | 2026.10.15 #GenAIge
16. 16 / 20 GenAIge Cafe #12 Token × Cache サブスク版の Cache TTL：どこまで分かる？ APIのTTLをそのままWeb・アプリの仕様として流用しない。 ChatGPT 通常Chat 非公開 Cachingと利用量の関連はあるが、詳細係数は非公開 Claude Chat / Projects 非公開 再利用で利用枠を節約できると公式説明 Claude Code（サブスク） 1時間 失効後は長いContextを再処理し、枠消費が増え得る Gemini Apps 非公開 Compute-basedの制限。Cache別の係数は非公開 公式に確認できる例： Claude Codeのサブスク利用は 1時間。 GenAIge | 2026.10.15 #GenAIge
17. 17 / 20 GenAIge Cafe #12 Token × Cache 3社のCache TTL・料金比較（ API） 代表モデル・Standard・米ドル／100万Token。サブスクの枠消費とは別。 OpenAI GPT-6.1 Sol Anthropic Claude Sonnet 4.5 Google Gemini 3.8 Flash 通常 Input $2.00 $3.00 $0.75 Cache Write $2.50 $3.75（5分） $6.00（1時間） 明示的Cacheは 保存料金を確認 Cache Read $0.10 $0.30 $0.075 Output $10.00 $15.00 $3.75 TTL 最低30分 5分 / 1時間 独立の時間課金なし 独立の時間課金なし 暗黙：非公開 明示：初期1時間 $1.00 / 100万 Token・時間 項目 追加保存料金 同じ「 Cache」でも、 Write・Read・保存・ TTLの条件は違う。 GenAIge | 2026.10.15 #GenAIge
18. 18 / 20 GenAIge Cafe #12 Token × Cache なぜ短い質問で利用枠が急に減るの？ Claude Codeの公式説明をもとにした模式図。 1 2 3 長い資料・長い会話 1時間以内の再利用 長い休憩 再開して短い指示 大きなContextを扱う Cache Hitで効率化 Cache TTLが切れる場合 過去Contextを再処理 減っているのは短い一言ではなく、「再処理した長い GenAIge | 2026.10.15 4 Context」かもしれない。 #GenAIge
19. 19 / 20 GenAIge Cafe #12 Token × Cache 今日のキーメッセージ この3つが、TokenとCacheを理解する近道です。 ✓ Token ≠ 文字数 モデル・tokenizerごとに数え方が違う ✓ Context ≠ 自分の入力だけ 履歴や指示、ツールなども関係する ✓ Cache ≠ Tokenが消える 同じPrefixを再利用するときの扱いが変わる 詳しく知るなら「モデル ID × 日時 × 実際のusage」を見る。 GenAIge | 2026.10.15 #GenAIge
20. 20 / 20 GenAIge Cafe #12 Token × Cache みんなで話してみましょう！ 詳しくても、初めてでも。今日気になったところから。 Tokenって結局なんだろう？ Cacheって節約してくれるの？ Cacheにも有効期限があるの？ みんなは利用枠を気にしてる？ こんな使い方をしたら、どうなった？ 体験を持ち寄って、気になるところまで。 GenAIge | 2026.10.15 #GenAIge