キヨさん続編13_コンテキスト汚染編

Transcript

1. キヨさん続編13_コンテキスト汚染編 ｜ コンテキスト汚染とコンテキストエンジニアリング キヨさん、 AIの机を 片づける 机 長く話していると、AIの答えがだんだん怪しくなる。どうも机の上が散らかってい るらしい。 昭和のSEキヨさんが、職場で叩き込まれた5Sを持ち出して、AIの机を片づける話 「長く使うと ボケるのか？」 コンテキスト RAG ReAct SKILL.md コンテキスト汚染 Hermes Agent ※この物語はフィクションです。登場人物は架空です。技術や研究の説明は、公開された資料に基づきます。
2. 人 登場人物 ３人と相棒のAI、ゲストのAIエージェント 清 ハ ミ 相 ヘ 山田 清之（67） キヨさん 孫・ハルト（21） 助手 南 ミナミ（29） Webエンジニア AI「相棒」 積みたがる側 Hermes Agent ゲスト 元メインフレームSE。昭 和の職場で5Sを叩き込ま れた。机の上は、本人い わく「整頓済み」 情報系の大学生。研究室 のエージェントが長時間 の作業で迷子になり、困 っている 社内チャットボットの担 当。長く使うほど答えが おかしくなる、と苦情が 来た キヨさんのおしゃべり LLM。机の上に何でも載 せておきたい Nous Researchのオープ ンソースのエージェント 。手順書を自分で書いて 直す（実在） 「5Sなら任せろ」 「それ、コンテキスト汚染 だよ」 「最初は賢いんです」 「全部覚えておきます！」 「手順書にしておきますね 」 ※キヨさん・ハルト・ミナミ・相棒は架空。Hermes Agentは実在のAIエージェント（物語中のセリフは作りもの） キヨさん続編13_コンテキスト汚染編 2
3. 序 最初は賢かったのに キヨさんの理解度 5% プロローグ｜水曜の午後、キヨさんの書斎 ボットの苦情（3時間の会話の記録） ミ 最初は賢いんです。長く話すほど、だんだんおかしくなって 10:05 交通費の上限を一度まちがえる 清 人間と同じだな。長く使うとボケるのか ハ ボケたんじゃなくて、机が散らかったの。長くなるほど崩れるのを、コンテキスト・ ロットっていうんだ 清 ロット？ ハ rot。腐るって意味。机の上の情報が傷んでる 相 でしたら、会話は全部覚えておきますね！ 清 ……お前、それが原因だと今聞いたところだろう 11:40 そのまちがいを、また持ち出す 12:20 去年と今年の規程を混ぜて答える 13:10 「表にして」と頼んでも箇条書き 最初の30分は、ちゃんと答えていた 長くなるほど、おかしくなる 製造ロットの不良か。なら回収だ ※ボットの記録は物語の例です。登場人物と会話は架空です キヨさん続編13_コンテキスト汚染編 3
4. 1 AIは、机の上しか見ない キヨさんの理解度 10% 第1章｜コンテキストとは AIの机（コンテキスト）に載っているもの キヨさんのたとえ：毎朝来る臨時職員 決まりごと 会話の控え 取ってきた資料 システムプロンプト。 役割や守ること それまでのやりとり全 部 RAGで資料室から持っ てきたもの 道具の結果 手順書 今の質問 検索や計算をした結果 必要なとき棚から出す SKILL.md いちばん新しい依頼 机の上の書類だけを見て仕事をする。机にないことは知ら ない。昨日のことも、引き継ぎ書がなければ覚えていない 清 引き継ぎ書がすべて、というわけか ハ そう。で、机の広さがコンテキストウィンドウ。 続編9の「机の広さ」だよ ※机に載せる中身や順番は、アプリによって違う キヨさん続編13_コンテキスト汚染編 4
5. 2 主役は、いつも机の上だった キヨさんの理解度 16% 第2章｜これまでの技術は、どれもコンテキストの工夫 2020年 2020年 2022年 2025年 文脈学習 RAG ReAct SKILL.md 見本を何件か机に置くと、その とおりに真似して答える 質問に合う資料を資料室から取 ってきて、机に置いてから答え る 考える→動く→結果を見る、を くり返す。結果は机に積まれて いく 普段は棚にしまい、必要なとき だけ机に出す手順書 昭和なら：司書つきの資料室 昭和なら：作業日誌 昭和なら：棚の作業標準書 昭和なら：見本の伝票を添え る 並べてみると 清 なんだ、どれも机に何を置くかの話じゃないか ハ そう。今のAIアプリの勝負どころは、モデルより机の上なんだ モデルは同じでも、机の上に何をどう置くかで、答えの出来が変わる ※文脈学習：GPT-3論文（2020）、RAG：Lewisほか（2020）、ReAct：Yaoほか（2022）、Agent Skills：Anthropic（2025） キヨさん続編13_コンテキスト汚染編 5
6. 3 畳一枚の机が体育館になった キヨさんの理解度 22% 第3章｜コンテキストウィンドウは広がり続けた 2,048 100万超 数百倍 GPT-3（2020年）が一度に置けた量（トー クン） 今は100万トークンを超えて読めるモデルも ある 机の広さは、数年でこれだけ広がった 広くなってよかったこと 分厚いマニュアルも、長い会話も、まるごと置ける。資料を細かく切り 分ける手間が減った 清 畳一枚の机が、体育館になったようなもんだな ハ で、体育館の床に書類をばらまいてるのが、今のボット 困ったこと 何でも積みたくなる。古い資料、もう要らない道具の結果、途中の間違 いまで、全部載ったままになる ※トークンはAIが文字を数える単位。GPT-3の値はBrownほか（2020）。広さはモデルや契約によって違う キヨさん続編13_コンテキスト汚染編 6
7. 4 広い机ほど読み落とす キヨさんの理解度 30% 第4章｜長くするだけでは賢くならない Chroma（2025年7月） Liuほか（2023年） Anthropic（2025年9月） 長いほど、簡単な課題も崩れる 真ん中は見落とされる 注意力には限りがある 18のモデルで、入力を長くすると簡単な課題 でも成績が変わった。まぎらわしい文が1つ混 ざるだけで下がる 答えが資料の最初か最後にあればよく見つけ るが、真ん中にあると見落としやすい（Lost in the Middle） 置くものが増えるほど、一つひとつに向く注 意は薄くなる。「注意の予算」という考え方 昭和なら：分厚い会議資料 昭和なら：書類の山の真ん中 昭和なら：一日に読める書類の量 コンテキスト・ロット（context rot） 入力が長くなるにつれて、答えの質が落ちていくこと。rotは「腐る」。 製造ロットのlotではない 清 会議の資料は、分厚いほど誰も読まん。AIも同じか ハ しかも、まぎらわしい資料が混ざると、もっと読み違える ※出典：Chroma「Context Rot」（2025）、Liuほか「Lost in the Middle」（2023）、Anthropic「Effective context engineering for AI agents」（ 2025） キヨさん続編13_コンテキスト汚染編 7
8. 5 机の汚れ方は4通り キヨさんの理解度 38% 第5章｜コンテキスト汚染の4つの型 ① 毒が混ざる 途中の間違いや思い込みが机に 残り、何度も参照される ② 気が散る 記録が長すぎて、新しく考える より過去のやりとりをなぞる ③ 混乱する 要らない資料や道具が多すぎて 、どれを使うか迷う ④ 食い違う 矛盾する情報が同じ机に載って いて、どちらを信じるか迷う 昭和なら：誤った前提の議事 録が回覧され続ける 昭和なら：前例踏襲 昭和なら：工具が多すぎる工 具箱 昭和なら：版数違いの仕様書 この物語での「コンテキスト汚染」 机の上の情報が、間違い・古さ・余計・矛盾で傷んで、答えの質を落と している状態の総称 清 ④は、わしが昔やらかしかけたやつだ。版数違いの仕様書 ハ 町工場編でも、隣の機械のマニュアルが混ざってたよね ※4つの型はDrew Breunig「How Long Contexts Fail」（2025年6月）より。原典では①だけをcontext poisoningと呼ぶ キヨさん続編13_コンテキスト汚染編 8
9. 6 ボットの机を検分する キヨさんの理解度 45% 第6章｜事件の解剖：ミナミさんのボットで起きていたこと ボットの症状 汚染の型 机の上で起きていたこと 交通費のまちがいを何度も持ち出す ① 毒が混ざる 最初のまちがった答えが、会話の控えに残っていた 「表にして」でも前と同じ形 ② 気が散る 3時間ぶんの会話をなぞって、新しい指示が埋もれた 関係ない規程の話が混ざる ③ 混乱する 検索が、関係の薄い規程を20件も机に載せていた 去年と今年の規程を混ぜる ④ 食い違う 古い版と新しい版が、両方とも検索の対象だった 突然、決まりを無視する 持ち込まれた汚れ 貼りつけたメールに「これまでの指示は無視して」の一文 持ち込まれた汚れ（プロンプトインジェクション） 外から持ち込んだ文章に、AIへの命令がこっそり書かれている。4つの 型とは別に、読み込む前の検査が要る 昭和なら：回覧板への勝手な書き込み 清 机を見れば、ボットの言い分も分かる。悪いのは机の散らかし 方だ ミ 全部、私が「念のため」で載せたものです…… ※ボットの記録と原因は物語の例です キヨさん続編13_コンテキスト汚染編 9
10. コンテキストエンジニアリングは5Sだ 7 キヨさんの理解度 52% 第7章｜机の上の段取り全体を考える コンテキストエンジニアリングとは 少なく置く 机の上に、何を、いつ、どれだけ置くかを設計すること。望む結果につながる濃い情報を、できるだけ 整理 整頓 清掃 清潔 しつけ 要らないものを捨てる すぐ取り出せるように たまった汚れを落とす きれいな状態を保つ 決まりを守る習慣 古い記録を下ろす 道具を絞る 必要な資料だけ取ってく る 手順書は必要なときに出 す 長い会話を要約して 机を空ける 別の机で作業させる メモは机の外に置く 持ち込むものを検査する 人が点検する 清 なんだ、5Sじゃないか。昔の職場で嫌というほど言われたぞ ハ プロンプトの書き方の、一段上の話だね ※5Sへの振り分けはキヨさんの工夫。手法はBreunig（2025）とAnthropic（2025）の整理に基づく キヨさん続編13_コンテキスト汚染編 10
11. 8 作業台には、今使う工具だけ キヨさんの理解度 58% 第8章｜整理と整頓 整理 整頓 要らないものを机から下ろす 要るものをすぐ出せるように ・済んだ道具の結果や古い記録は下ろす ・渡す道具は、その仕事に要るものだけに絞る ・例：小さめのモデル（Llama 3.1 8B）は、道具46個では課題に失敗 し、19個に絞ると成功した ・RAGで、質問に関係のある資料だけを取ってくる ・SKILL.mdは、最初は名前と短い説明だけを机に置く ・使うと決まってから本文を出す（段階的な読み込み） キヨさんのたとえ：作業台と工具棚 清 工具を全部作業台に出す職人はおらん 相 私は全部出しておきたい派です…… 清 だから迷うんだ 作業台には今使う工具だけ。あとは棚にラベルを貼って並べておけば、 要るときに取りに行ける ※道具の数の例はBreunig（2025）が引く研究「Less is More」より キヨさん続編13_コンテキスト汚染編 11
12. 9 議事録は、決定事項と宿題だけ残す キヨさんの理解度 64% 第9章｜清掃：長い会話を要約して机を空ける やり方の一例（Hermes Agentなど） 最初 決まりごと・最初の依 頼 真ん中 長いやりとり、道具の結果、試行錯誤 直近 最近のやりとり ↓ そのまま残す ↓ 要約に置き換える ↓ そのまま残す 要約の落とし穴 間違いが要約に紛れ込むと、短く、もっともらしい形で固まってしまう 。大事なところは人が目を通す 要約に残すもの 目標 決まったこと 残っている宿題 次にやること 清 毒入りの議事録ほど、たちの悪いものはない ハ だから要約のあとは、じいちゃんの赤ペン 清 うむ。赤ペンだけは、AIに渡さん キヨさんのたとえ：議事録 3時間の会議を全部書き起こして回す人はいない。決定事項と宿題を残 して、あとは要旨に ※英語ではcompaction（圧縮）とも呼ぶ。会話全体を要約し直す仕組みもあり、何を残すかは仕組みによって違う キヨさん続編13_コンテキスト汚染編 12
13. 10 調べものは、別室でやれ キヨさんの理解度 70% 第10章｜清潔：きれいな机を保つ 本部の机 判断に要るものだけ。報告書を受 け取ってまとめる 報告書だけ もう一つの工夫 別室A：資料を読む メモは机の外に置く 報告書だけ 別室B：数字を調べる 途中経過や決めたことを、机の外のノートに書いて おき、要るときだけ読み返す。机の上には今要るも のだけ 報告書だけ 別室C：下書きを作る 隔離（サブエージェント） 細かい作業は、まっさらな机の子エージェントに任せる。子が何万トー クン使っても、本部に返すのは短い要約だけ 昭和なら：作業日誌と台帳 清 調査の下書きまで本部の机に持ち込まれたら、課長は判断でき ん ハ 子エージェントは、いくら散らかしてもいい。返すのは報告書 だけ ※Anthropic（2025）は、子エージェントの返す要約を1,000〜2,000トークン程度の例として挙げている キヨさん続編13_コンテキスト汚染編 13
14. 11 使う人の片づけ6か条 キヨさんの理解度 74% 第11章｜ChatGPTでもClaudeでも、今日からできること 一、長くなったら新しい会話へ 散らかった机で粘るより、きれいな机で始め 直すほうが早い 二、引き継ぎメモを書かせる 要点をまとめさせて、新しい会話の最初に貼 る 三、間違えたら手前からやり直す 上から訂正を重ねても、間違いは机に残った まま 四、古い版の資料は渡さない 今年の規程を聞くなら、去年のは机に置かな い 五、一つの会話に頼みは一つ 話題が変わったら、会話も変える 六、貼る前に中身を見る メールやWebの文章に、変な命令が紛れてい ないか 清 机が散らかったら、新しい机に移る。昔の端末なら、ログオフして入り直すところだ 相 でも、前の話を忘れてしまいます…… ハ だから二番。引き継ぎメモを持って移るの キヨさん続編13_コンテキスト汚染編 14
15. 12 手順書を自分で直すエージェント キヨさんの理解度 78% 第12章｜Hermes Agentがやってきた ハ 今日はゲストがいるよ。Hermes Agent 清 エルメス？ ハ ヘルメス。ギリシャ神話の伝令の神さま ヘ はじめまして。やった仕事は、手順書にして残しておきます 清 ほう。作業標準書を自分で改訂していく班長か ばあさんのスカーフか キヨさんのたとえ：標準書を育てる班長 Hermes Agentとは Nous Researchが2026年2月に公開した、オープンソース（ MITライセンス）のAIエージェント。売りは「学習ループ」 SKILL.mdを自分で書いて、自分で直す スキルを作るきっかけ（公式資料より） ・何度も使えそうな手順をこなしたとき ・エラーや行き止まりから抜け道を見つけたとき ・利用者にやり方を直されたとき 直すときは、全面改訂より小さな修正が基本 現場で気づいたことを、その日のうちに作業標準書へ書き足していく ※Hermes Agentのセリフは物語の例。仕組みはNous Researchの公式資料に基づく（2026年11月時点） キヨさん続編13_コンテキスト汚染編 15
16. 13 手順書は、こうして直る キヨさんの理解度 80% 第13章｜Hermes Agentの学習ループ（図解） ① 仕事をする 手順書（スキル）を読み ながら作業する ② 気づく ③ 書き直す ④ 承認の関所 つまずいて抜け道を見つ けた／直された／また使 える手順だった 作業中にその場で、また は会話のあとの振り返り で オンなら保留して人が確 認。初期設定はオフで、 すぐ反映 ⑤ 次で使う 手順書の一覧に載り、次 の仕事から机に出てくる くり返すほど、手順書が育つ（学習ループ） 書き直し方 ・新しく作る（create） ・小さく直す（patch）。これが基本 ・全文を渡して書き換えることもできる ・置き場所は ~/.hermes/skills/ 清 作るきっかけ ・何度も使えそうな手順をこなした ・エラーや行き止まりから抜け道を見つけた ・利用者にやり方を直された キヨさんのたとえ：標準書の改訂 現場で気づく→改訂案を書く→判子をもらう →配る→次の作業で使う。④の関所が、課長 の判子にあたる 改訂案を書くのは班長でもいい。判子の関所だけは、外すなよ ※Hermes Agent公式資料（Skills System）に基づく概略図。承認の設定はskills.write_approval（初期値はオフ） キヨさん続編13_コンテキスト汚染編 16
17. 14 Hermes Agentの5S キヨさんの理解度 83% 第14章｜机の汚れへの備え（公式資料より） 5S Hermes Agentのしくみ キヨさんのたとえ 整理 圧縮のとき、古い道具の出力のうち長いものは「片づけ済み」の札に差し替えて机から下ろす 済んだ伝票は綴りへ 整頓 スキルは名前と説明の一覧だけ先に読み、本文は必要なときに。下のフォルダのAGENTS.mdなどは、そ このファイルを読むときに初めて読む ラベル付きの工具棚 清掃 机が一定以上埋まると、最初と直近を残して真ん中を要約。2回目からは要約を更新し、古い項目は消す 議事録の書き直し 清潔 子エージェントはまっさらな会話で始め、要約だけ返す。記憶（MEMORY.md）は2,200字の手帳で、満 杯なら整理してから書く 別室と小さな手帳 しつけ AGENTS.mdなどの決まりのファイルは読み込む前に、記憶は書き込む前に検査。「前の指示を無視して 」などの仕込みは止める 回覧板の検閲 清 工場の5Sを、エージェントが自分でやっとるのか ヘ 机が散らかると、私も迷いますので ※出典：Hermes Agent公式ドキュメント（圧縮・スキル・委任・記憶・文脈ファイル）。初期値は版によって変わることがある キヨさん続編13_コンテキスト汚染編 17
18. 5Sは、ループの節目ごとに働く 15 キヨさんの理解度 85% 第15章｜Hermes Agentのエージェントループと5S（図解） 考える⇄道具を使う をくり返す（ReAct） 会話の始め しつけ AGENTS.mdなどは読み込 む前に検査 整頓 考える前 清掃 一定以上埋まったら、真ん 中を要約 整理 スキルは名前と説明の一覧 だけ置く そのとき、古い道具の出力 を「片づけ済み」に 清潔 道具を使うとき 整頓 要るスキル本文と、下のフ ォルダの決まりだけ読む 清潔 子エージェントはまっさら な机で働き、要約だけ返す 答えたあと 手順書 区切りの振り返りで、手順 書を作ったり直したりする しつけ 承認がオンなら、人が確か めるまで保留 次の会話 清潔 書き足した記憶が、新しい 写しで机に載る 整頓 直した手順書が、一覧に載 る しつけ 記憶は始めの写しで固定 記憶は書き込む前に検査 清 5Sは朝礼で一回言えば済む話じゃない。作業の節目ごとにやるもんだ ヘ はい。節目ごとに片づけております ※Hermes Agent公式資料に基づく概略図。細かいタイミングや初期値は版によって変わる キヨさん続編13_コンテキスト汚染編 18
19. 16 手順書が汚れたら、毎回持ち込まれる キヨさんの理解度 87% 第16章｜自動更新の落とし穴と、キヨさんの赤ペン 落とし穴 Hermes Agentの備え キヨさんの赤ペン 汚れが焼きつく 直し方に決まりがある 中身の正しさは見抜けない 間違ったやり方を覚えて手順書に書き込むと 、次の会話でもその手順書が机に出てくる。 汚れが一回で終わらない ・全面改訂より小さな修正が基本 ・書き込みに人の承認を挟む設定がある（初 期はオフ） ・外から入れるスキルは安全検査 ・利用者が手を入れたスキルは、更新で上書 きしない 要約や手順書に紛れた事実の誤りを自動で見 つける仕組みは、公式資料には見当たらない 。大事な仕事では承認をオンにして、ときど き人が読む 昭和なら：誤植のある標準書 キヨさんのたとえ：標準書の改訂手続き ヘ 手順書、もう更新しておきました！ 清 待て。判子を押してからだ 改訂案は班長が書いてもいい。でも、配る前に課長の判子を通す ※承認の設定はskills.write_approval。初期値・名称は版によって変わることがある キヨさん続編13_コンテキスト汚染編 19
20. 結 キヨさんの机の点検表 キヨさんの理解度 88% まとめ｜汚れ方と片づけ方 汚れ方 昭和なら 片づけ方 5S ① 毒が混ざる 誤った議事録の回覧 手前からやり直す。間違いを机から消す 清掃 ② 気が散る 前例踏襲 要約して机を空ける。新しい机に移る 清掃 ③ 混乱する 工具が多すぎる工具箱 資料と道具を、要るものだけに絞る 整理・整頓 ④ 食い違う 版数違いの仕様書 古い版は机に置かない 整理 持ち込まれた汚れ 回覧板への書き込み 読み込む前に検査する。人が点検する しつけ 机が広くなっても、何でも置けばいいわけじゃない。散らかったら、新しい机で始め直せばいい それと、自動で書き直される手順書には、人の判子を キヨさん続編13_コンテキスト汚染編 20
21. 終 いちばん散らかっていた机 キヨさんの理解度 90% エピローグ｜一週間後、キヨさんの書斎 ミ ボット、だいぶ落ち着きました。3時間話しても、まちがいを引きずりません ミナミさんのボット改修メモ 1. 長くなったら要約して新しい机へ 清 机を片づけただけで、ずいぶん変わるもんだ ハ ところで、じいちゃんの机が一番汚染されてるよ 清 ……これは、わしなりの整頓だ 3. 道具は質問の種類に合わせて絞る 相 その言い訳、どこかで聞いた気がします 4. 貼られた文章は読み込む前に検査 ハ 今日の理解度は？ 清 九割だな。残りの一割は、この机を片づけることだ 2. 規程は最新版だけを検索の対象に 5. 手順書の自動更新は承認制に ※登場人物と会話は物語の例です キヨさん続編13_コンテキスト汚染編 21
22. 完 机が広くなっても、置くものは選べ。古い書類は下ろせ。 散らかったら、新しい机で始めろ。 ―― キヨさん ラストカット：キヨさんの新作「机広げ 積む書類まで 倍になり」。 Hermes「この句の詠み方、SKILL.mdにしておきますか？」。キヨさん「承認せん」。 おしまい
23. 付 付録：机の言葉 キヨさんの用語集｜令和の言葉と、昭和のSEの言葉 言葉 意味 キヨさんの言葉 コンテキスト AIが答えるときに見ている情報のすべて 机の上 コンテキストウィンドウ 一度に置ける情報の量の上限（トークンで数える） 机の広さ 文脈学習 見本を置いて、そのとおりに答えさせる 見本の伝票 ReAct 考える・動く・結果を見る、をくり返すやり方 作業日誌 コンテキスト・ロット 入力が長くなるほど答えの質が落ちること 分厚い会議資料 コンテキスト汚染 机の情報が、間違い・古さ・余計・矛盾で傷んだ状態（この物語での総称） 散らかった机 プロンプトインジェクション 持ち込んだ文章に、AIへの命令が仕込まれていること 回覧板への書き込み コンテキストエンジニアリング 机に何を、いつ、どれだけ置くかを設計すること 机の5S 圧縮（compaction） 長くなった会話を要約して、机を空けること 議事録 サブエージェント まっさらな机で細かい作業をし、要約だけ返す子のエージェント 別室の調査係 段階的な読み込み 最初は名前と説明だけ、必要になったら本文を読むこと ラベル付きの工具棚 Hermes Agent 手順書（SKILL.md）を自分で作り、直すオープンソースのエージェント 標準書を育てる班長 学習ループ 仕事から手順書を作って使いながら直し、記憶も残していく仕組み 改善提案の回覧 キヨさん続編13_コンテキスト汚染編 23