Slide 1

Slide 1 text

© LayerX Inc. LLM時代の検索 2025/07/10 LayerX Yusuke Shibui

Slide 2

Slide 2 text

⾃⼰紹介 shibui yusuke ● いろいろ → Stability AI → LayerX(いまここ) ● MLOpsコミュニティ運営 ● LLM, 検索, R&Dチームのマネージャー ● 最近やりたいこと ⽣成AIの⽣成AI以外のエンジニアリング ● Github: @shibuiwilliam ● FB: yusuke.shibui cat : 0.55 dog: 0.45 human : 0.70 gorilla : 0.30 物体検知

Slide 3

Slide 3 text

機械学習を本番システムに組み込む方法を デザインパターンとして整理! 機械学習を組み込んだ本番システムを 実際にハンズオンで作る! 【共著】大企業からスタートアップまで、 MLOpsの実践例を集約! 乞うご期待! Under development

Slide 4

Slide 4 text

© LayerX Inc. 4 LLM時代の検索 LLMを使った検索 LLMのための検索

Slide 5

Slide 5 text

© LayerX Inc. 5 ● LLMやAI Agent周辺でデータや検索の課題をテーマに話します ● Context engineering ● LLM時代の検索 ○ Context search ○ Tool for search & Search for tool 今⽇話すこと

Slide 6

Slide 6 text

Context engineering

Slide 7

Slide 7 text

© LayerX Inc. 7 単体で使う 例:ChatGPT、ローカルLLM システムの⼀部として使う 例:RAG、AI Agent LLMの使い⽅ Task Planning Tool use Generation Reflection Result Plan Out put

Slide 8

Slide 8 text

© LayerX Inc. 8 シンプルなAI Agent AI Agentにおけるデータの課題 Task Planning Tool use Generation Reflection Result Plan Out put

Slide 9

Slide 9 text

© LayerX Inc. 9 実態はMulti Agentになりがち AI Agentにおけるデータの課題 Task Result Agent Orchestrator SubAgent SubAgent SubAgent Context Tool use

Slide 10

Slide 10 text

© LayerX Inc. 10 Contextの肥⼤化と複雑化 AI Agentにおけるデータの課題 Task Result Agent Orchestrator SubAgent SubAgent SubAgent Context ↑エンジニアリングが必要 Tools

Slide 11

Slide 11 text

© LayerX Inc. 11 Ref: https://www.philschmid.de/context-engineering Context:LLMに与える多様な情報 Context Engineering:そのエンジニアリング Context Engineering! https://www.philschmid.de/context-engineering

Slide 12

Slide 12 text

© LayerX Inc. 12 記録、変化、再利⽤するもの AI Agentにおけるデータの課題 Context Semantic memory Procedural memory Episodic memory 過去に実⾏した アクションとその結果 LLM / AI Agent Tool use 事実やユーザ情報 指⽰やプロンプト

Slide 13

Slide 13 text

© LayerX Inc. 13 夏⽬漱⽯『吾輩は猫である』 LLMですべてのデータを良い感じに処理してくれるのが理想だが‧‧‧ AI Agentにおけるデータの課題  吾輩わがはいは猫である。名前はまだ無い。  どこで生れたかとんと見当けんとうがつかぬ。何でも薄暗いじめじめした所でニャーニャー泣いていた事だけは記憶している。吾輩はここで始めて人間というものを見た。しか もあとで聞くとそれは書生という人間中で一番獰悪どうあくな種族であったそうだ。この書生というのは時々我々を捕つかまえて煮にて食うという話である。しかしその当時は何 という考もなかったから別段恐しいとも思わなかった。ただ彼の掌てのひらに載せられてスーと持ち上げられた時何だかフワフワした感じがあったばかりである。掌の上で少し落 ちついて書生の顔を見たのがいわゆる人間というものの見始みはじめであろう。この時妙なものだと思った感じが今でも残っている。第一毛をもって装飾されべきはずの顔がつ るつるしてまるで薬缶やかんだ。その後ご猫にもだいぶ逢あったがこんな片輪かたわには一度も出会でくわした事がない。のみならず顔の真中があまりに突起している。そうし てその穴の中から時々ぷうぷうと煙けむりを吹く。どうも咽むせぽくて実に弱った。これが人間の飲む煙草たばこというものである事はようやくこの頃知った。  この書生の掌の裏うちでしばらくはよい心持に坐っておったが、しばらくすると非常な速力で運転し始めた。書生が動くのか自分だけが動くのか分らないが無暗むやみに眼が 廻る。胸が悪くなる。到底とうてい助からないと思っていると、どさりと音がして眼から火が出た。それまでは記憶しているがあとは何の事やらいくら考え出そうとしても分らない。  ふと気が付いて見ると書生はいない。たくさんおった兄弟が一疋ぴきも見えぬ。肝心かんじんの母親さえ姿を隠してしまった。その上今いままでの所とは違って無暗むやみに 明るい。眼を明いていられぬくらいだ。はてな何でも容子ようすがおかしいと、のそのそ這はい出して見ると非常に痛い。吾輩は藁わらの上から急に笹原の中へ棄てられたので ある。  ようやくの思いで笹原を這い出すと向うに大きな池がある。吾輩は池の前に坐ってどうしたらよかろうと考えて見た。別にこれという分別ふんべつも出ない。しばらくして泣いた ら書生がまた迎に来てくれるかと考え付いた。ニャー、ニャーと試みにやって見たが誰も来ない。そのうち池の上をさらさらと風が渡って日が暮れかかる。腹が非常に減って来 た。泣きたくても声が出ない。仕方がない、何でもよいから食物くいもののある所まであるこうと決心をしてそろりそろりと池を左ひだりに廻り始めた。どうも非常に苦しい。そこを 我慢して無理やりに這はって行くとようやくの事で何となく人間臭い所へ出た。ここへ這入はいったら、どうにかなると思って竹垣の崩くずれた穴から、とある邸内にもぐり込ん だ。縁は不思議なもので、もしこの竹垣が破れていなかったなら、吾輩はついに路傍ろぼうに餓死がししたかも知れんのである。一樹の蔭とはよく云いったものだ。この垣根の 穴は今日こんにちに至るまで吾輩が隣家となりの三毛を訪問する時の通路になっている。さて邸やしきへは忍び込んだもののこれから先どうして善いいか分らない。そのうちに 暗くなる、腹は減る、寒さは寒し、雨が降って来るという始末でもう一刻の猶予ゆうよが出来なくなった。仕方がないからとにかく明るくて暖かそうな方へ方へとあるいて行く。今か ら考えるとその時はすでに家の内に這入っておったのだ。ここで吾輩は彼かの書生以外の人間を再び見るべき機会に遭遇そうぐうしたのである。第一に逢ったのがおさんであ る。これは前の書生より一層乱暴な方で吾輩を見るや否やいきなり頸筋くびすじをつかんで表へ抛ほうり出した。いやこれは駄目だと思ったから眼をねぶって運を天に任せてい た。しかしひもじいのと寒いのにはどうしても我慢が出来ん。吾輩は再びおさんの隙すきを見て台所へ這はい上あがった。すると間もなくまた投げ出された。吾輩は投げ出され ては這い上り、這い上っては投げ出され、何でも同じ事を四五遍繰り返したのを記憶している。その時におさんと云う者はつくづくいやになった。この間おさんの三馬さんまを偸 ぬすんでこの返報をしてやってから、やっと胸の痞つかえが下りた。吾輩が最後につまみ出されようとしたときに、この家うちの主人が騒々しい何だといいながら出て来た。下女 は吾輩をぶら下げて主人の方へ向けてこの宿やどなしの小猫がいくら出しても出しても御台所おだいどころへ上あがって来て困りますという。主人は鼻の下の黒い毛を撚ひね りながら吾輩の顔をしばらく眺ながめておったが、やがてそんなら内へ置いてやれといったまま奥へ這入はいってしまった。主人はあまり口を聞かぬ人と見えた。下女は口惜く やしそうに吾輩を台所へ抛ほうり出した。かくして吾輩はついにこの家うちを自分の住家すみかと極きめる事にしたのである。  吾輩の主人は滅多めったに吾輩と顔を合せる事がない。職業は教師だそうだ。学校から帰ると終日書斎に這入ったぎりほとんど出て来る事がない。家のものは大変な勉強家 だと思っている。当人も勉強家であるかのごとく見せている。しかし実際はうちのものがいうような勤勉家ではない。吾輩は時々忍び足に彼の書斎を覗のぞいて見るが、彼はよく 昼寝ひるねをしている事がある。時々読みかけてある本の上に涎よだれをたらしている。彼は胃弱で皮膚の色が淡黄色たんこうしょくを帯びて弾力のない不活溌ふかっぱつな 徴候をあらわしている。その癖に大飯を食う。大飯を食った後あとでタカジヤスターゼを飲む。飲んだ後で書物をひろげる。二三ページ読むと眠くなる。涎を本の上へ垂らす。こ れが彼の毎夜繰り返す日課である。吾輩は猫ながら時々考える事がある。教師というものは実に楽らくなものだ。人間と生れたら教師となるに限る。こんなに寝ていて勤まるも のなら猫にでも出来ぬ事はないと。それでも主人に云わせると教師ほどつらいものはないそうで彼は友達が来る度たびに何とかかんとか不平を鳴らしている。 情報抽出、検索が必要

Slide 14

Slide 14 text

© LayerX Inc. 14 夏⽬漱⽯『吾輩は猫である』 LLMですべてのデータを良い感じに処理してくれるのが理想だが‧‧‧ AI Agentにおけるデータの課題 情報抽出、検索が必要 GPT-4.1 context window: 1,000,000 tokens Gemini 2.5 Pro context window: 1,000,000 tokens Anthropic Claude API context window: 1,000,000 tokens ⼤容量化 → 使い切る ‧‧‧

Slide 15

Slide 15 text

© LayerX Inc. 15 夏⽬漱⽯『吾輩は猫である』 Context engineering AI Agentににおける情報抽出  吾輩わがはいは猫である。名前はまだ無い。  どこで生れたかとんと見当けんとうがつかぬ。何でも薄暗いじめじめした所でニャーニャー泣いていた事だけは記憶している。吾輩はここで始めて人間というものを見た。しか もあとで聞くとそれは書生という人間中で一番獰悪どうあくな種族であったそうだ。この書生というのは時々我々を捕つかまえて煮にて食うという話である。しかしその当時は何 という考もなかったから別段恐しいとも思わなかった。ただ彼の掌てのひらに載せられてスーと持ち上げられた時何だかフワフワした感じがあったばかりである。掌の上で少し落 ちついて書生の顔を見たのがいわゆる人間というものの見始みはじめであろう。この時妙なものだと思った感じが今でも残っている。第一毛をもって装飾されべきはずの顔がつ るつるしてまるで薬缶やかんだ。その後ご猫にもだいぶ逢あったがこんな片輪かたわには一度も出会でくわした事がない。のみならず顔の真中があまりに突起している。そうし てその穴の中から時々ぷうぷうと煙けむりを吹く。どうも咽むせぽくて実に弱った。これが人間の飲む煙草たばこというものである事はようやくこの頃知った。  この書生の掌の裏うちでしばらくはよい心持に坐っておったが、しばらくすると非常な速力で運転し始めた。書生が動くのか自分だけが動くのか分らないが無暗むやみに眼が 廻る。胸が悪くなる。到底とうてい助からないと思っていると、どさりと音がして眼から火が出た。それまでは記憶しているがあとは何の事やらいくら考え出そうとしても分らない。  ふと気が付いて見ると書生はいない。たくさんおった兄弟が一疋ぴきも見えぬ。肝心かんじんの母親さえ姿を隠してしまった。その上今いままでの所とは違って無暗むやみに 明るい。眼を明いていられぬくらいだ。はてな何でも容子ようすがおかしいと、のそのそ這はい出して見ると非常に痛い。吾輩は藁わらの上から急に笹原の中へ棄てられたので ある。  ようやくの思いで笹原を這い出すと向うに大きな池がある。吾輩は池の前に坐ってどうしたらよかろうと考えて見た。別にこれという分別ふんべつも出ない。しばらくして泣いた ら書生がまた迎に来てくれるかと考え付いた。ニャー、ニャーと試みにやって見たが誰も来ない。そのうち池の上をさらさらと風が渡って日が暮れかかる。腹が非常に減って来 た。泣きたくても声が出ない。仕方がない、何でもよいから食物くいもののある所まであるこうと決心をしてそろりそろりと池を左ひだりに廻り始めた。どうも非常に苦しい。そこを 我慢して無理やりに這はって行くとようやくの事で何となく人間臭い所へ出た。ここへ這入はいったら、どうにかなると思って竹垣の崩くずれた穴から、とある邸内にもぐり込ん だ。縁は不思議なもので、もしこの竹垣が破れていなかったなら、吾輩はついに路傍ろぼうに餓死がししたかも知れんのである。一樹の蔭とはよく云いったものだ。この垣根の 穴は今日こんにちに至るまで吾輩が隣家となりの三毛を訪問する時の通路になっている。さて邸やしきへは忍び込んだもののこれから先どうして善いいか分らない。そのうちに 暗くなる、腹は減る、寒さは寒し、雨が降って来るという始末でもう一刻の猶予ゆうよが出来なくなった。仕方がないからとにかく明るくて暖かそうな方へ方へとあるいて行く。今か ら考えるとその時はすでに家の内に這入っておったのだ。ここで吾輩は彼かの書生以外の人間を再び見るべき機会に遭遇そうぐうしたのである。第一に逢ったのがおさんであ る。これは前の書生より一層乱暴な方で吾輩を見るや否やいきなり頸筋くびすじをつかんで表へ抛ほうり出した。いやこれは駄目だと思ったから眼をねぶって運を天に任せてい た。しかしひもじいのと寒いのにはどうしても我慢が出来ん。吾輩は再びおさんの隙すきを見て台所へ這はい上あがった。すると間もなくまた投げ出された。吾輩は投げ出され ては這い上り、這い上っては投げ出され、何でも同じ事を四五遍繰り返したのを記憶している。その時におさんと云う者はつくづくいやになった。この間おさんの三馬さんまを偸 ぬすんでこの返報をしてやってから、やっと胸の痞つかえが下りた。吾輩が最後につまみ出されようとしたときに、この家うちの主人が騒々しい何だといいながら出て来た。下女 は吾輩をぶら下げて主人の方へ向けてこの宿やどなしの小猫がいくら出しても出しても御台所おだいどころへ上あがって来て困りますという。主人は鼻の下の黒い毛を撚ひね りながら吾輩の顔をしばらく眺ながめておったが、やがてそんなら内へ置いてやれといったまま奥へ這入はいってしまった。主人はあまり口を聞かぬ人と見えた。下女は口惜く やしそうに吾輩を台所へ抛ほうり出した。かくして吾輩はついにこの家うちを自分の住家すみかと極きめる事にしたのである。  吾輩の主人は滅多めったに吾輩と顔を合せる事がない。職業は教師だそうだ。学校から帰ると終日書斎に這入ったぎりほとんど出て来る事がない。家のものは大変な勉強家 だと思っている。当人も勉強家であるかのごとく見せている。しかし実際はうちのものがいうような勤勉家ではない。吾輩は時々忍び足に彼の書斎を覗のぞいて見るが、彼はよく 昼寝ひるねをしている事がある。時々読みかけてある本の上に涎よだれをたらしている。彼は胃弱で皮膚の色が淡黄色たんこうしょくを帯びて弾力のない不活溌ふかっぱつな 徴候をあらわしている。その癖に大飯を食う。大飯を食った後あとでタカジヤスターゼを飲む。飲んだ後で書物をひろげる。二三ページ読むと眠くなる。涎を本の上へ垂らす。こ れが彼の毎夜繰り返す日課である。吾輩は猫ながら時々考える事がある。教師というものは実に楽らくなものだ。人間と生れたら教師となるに限る。こんなに寝ていて勤まるも のなら猫にでも出来ぬ事はないと。それでも主人に云わせると教師ほどつらいものはないそうで彼は友達が来る度たびに何とかかんとか不平を鳴らしている。 Write Compress Select Isolate

Slide 16

Slide 16 text

© LayerX Inc. 16 夏⽬漱⽯『吾輩は猫である』 Context engineering AI Agentにおけるデータの課題  吾輩わがはいは猫である。名前はまだ無い。  どこで生れたかとんと見当けんとうがつかぬ。何でも薄暗いじめじめした所でニャーニャー泣いていた事だけは記憶している。吾輩はここで始めて人間というものを見た。しか もあとで聞くとそれは書生という人間中で一番獰悪どうあくな種族であったそうだ。この書生というのは時々我々を捕つかまえて煮にて食うという話である。しかしその当時は何 という考もなかったから別段恐しいとも思わなかった。ただ彼の掌てのひらに載せられてスーと持ち上げられた時何だかフワフワした感じがあったばかりである。掌の上で少し落 ちついて書生の顔を見たのがいわゆる人間というものの見始みはじめであろう。この時妙なものだと思った感じが今でも残っている。第一毛をもって装飾されべきはずの顔がつ るつるしてまるで薬缶やかんだ。その後ご猫にもだいぶ逢あったがこんな片輪かたわには一度も出会でくわした事がない。のみならず顔の真中があまりに突起している。そうし てその穴の中から時々ぷうぷうと煙けむりを吹く。どうも咽むせぽくて実に弱った。これが人間の飲む煙草たばこというものである事はようやくこの頃知った。  この書生の掌の裏うちでしばらくはよい心持に坐っておったが、しばらくすると非常な速力で運転し始めた。書生が動くのか自分だけが動くのか分らないが無暗むやみに眼が 廻る。胸が悪くなる。到底とうてい助からないと思っていると、どさりと音がして眼から火が出た。それまでは記憶しているがあとは何の事やらいくら考え出そうとしても分らない。  ふと気が付いて見ると書生はいない。たくさんおった兄弟が一疋ぴきも見えぬ。肝心かんじんの母親さえ姿を隠してしまった。その上今いままでの所とは違って無暗むやみに 明るい。眼を明いていられぬくらいだ。はてな何でも容子ようすがおかしいと、のそのそ這はい出して見ると非常に痛い。吾輩は藁わらの上から急に笹原の中へ棄てられたので ある。  ようやくの思いで笹原を這い出すと向うに大きな池がある。吾輩は池の前に坐ってどうしたらよかろうと考えて見た。別にこれという分別ふんべつも出ない。しばらくして泣いた ら書生がまた迎に来てくれるかと考え付いた。ニャー、ニャーと試みにやって見たが誰も来ない。そのうち池の上をさらさらと風が渡って日が暮れかかる。腹が非常に減って来 た。泣きたくても声が出ない。仕方がない、何でもよいから食物くいもののある所まであるこうと決心をしてそろりそろりと池を左ひだりに廻り始めた。どうも非常に苦しい。そこを 我慢して無理やりに這はって行くとようやくの事で何となく人間臭い所へ出た。ここへ這入はいったら、どうにかなると思って竹垣の崩くずれた穴から、とある邸内にもぐり込ん だ。縁は不思議なもので、もしこの竹垣が破れていなかったなら、吾輩はついに路傍ろぼうに餓死がししたかも知れんのである。一樹の蔭とはよく云いったものだ。この垣根の 穴は今日こんにちに至るまで吾輩が隣家となりの三毛を訪問する時の通路になっている。さて邸やしきへは忍び込んだもののこれから先どうして善いいか分らない。そのうちに 暗くなる、腹は減る、寒さは寒し、雨が降って来るという始末でもう一刻の猶予ゆうよが出来なくなった。仕方がないからとにかく明るくて暖かそうな方へ方へとあるいて行く。今か ら考えるとその時はすでに家の内に這入っておったのだ。ここで吾輩は彼かの書生以外の人間を再び見るべき機会に遭遇そうぐうしたのである。第一に逢ったのがおさんであ る。これは前の書生より一層乱暴な方で吾輩を見るや否やいきなり頸筋くびすじをつかんで表へ抛ほうり出した。いやこれは駄目だと思ったから眼をねぶって運を天に任せてい た。しかしひもじいのと寒いのにはどうしても我慢が出来ん。吾輩は再びおさんの隙すきを見て台所へ這はい上あがった。すると間もなくまた投げ出された。吾輩は投げ出され ては這い上り、這い上っては投げ出され、何でも同じ事を四五遍繰り返したのを記憶している。その時におさんと云う者はつくづくいやになった。この間おさんの三馬さんまを偸 ぬすんでこの返報をしてやってから、やっと胸の痞つかえが下りた。吾輩が最後につまみ出されようとしたときに、この家うちの主人が騒々しい何だといいながら出て来た。下女 は吾輩をぶら下げて主人の方へ向けてこの宿やどなしの小猫がいくら出しても出しても御台所おだいどころへ上あがって来て困りますという。主人は鼻の下の黒い毛を撚ひね りながら吾輩の顔をしばらく眺ながめておったが、やがてそんなら内へ置いてやれといったまま奥へ這入はいってしまった。主人はあまり口を聞かぬ人と見えた。下女は口惜く やしそうに吾輩を台所へ抛ほうり出した。かくして吾輩はついにこの家うちを自分の住家すみかと極きめる事にしたのである。  吾輩の主人は滅多めったに吾輩と顔を合せる事がない。職業は教師だそうだ。学校から帰ると終日書斎に這入ったぎりほとんど出て来る事がない。家のものは大変な勉強家 だと思っている。当人も勉強家であるかのごとく見せている。しかし実際はうちのものがいうような勤勉家ではない。吾輩は時々忍び足に彼の書斎を覗のぞいて見るが、彼はよく 昼寝ひるねをしている事がある。時々読みかけてある本の上に涎よだれをたらしている。彼は胃弱で皮膚の色が淡黄色たんこうしょくを帯びて弾力のない不活溌ふかっぱつな 徴候をあらわしている。その癖に大飯を食う。大飯を食った後あとでタカジヤスターゼを飲む。飲んだ後で書物をひろげる。二三ページ読むと眠くなる。涎を本の上へ垂らす。こ れが彼の毎夜繰り返す日課である。吾輩は猫ながら時々考える事がある。教師というものは実に楽らくなものだ。人間と生れたら教師となるに限る。こんなに寝ていて勤まるも のなら猫にでも出来ぬ事はないと。それでも主人に云わせると教師ほどつらいものはないそうで彼は友達が来る度たびに何とかかんとか不平を鳴らしている。 猫は、飼い主である苦沙弥先⽣やそ の周囲の⼈々の⾔動を観察し、⾵刺 的かつ⽪⾁たっぷりに語ります。物 語は特定の⼤きな事件が起こるわけ ではなく、猫が⽇常を通して⼈間の 愚かさや滑稽さを論評することで進 ⾏します。 Compress

Slide 17

Slide 17 text

© LayerX Inc. 17 夏⽬漱⽯『吾輩は猫である』 Context engineering AI Agentにおける検索  吾輩わがはいは猫である。名前はまだ無い。  どこで生れたかとんと見当けんとうがつかぬ。何でも薄暗いじめじめした所でニャーニャー泣いていた事だけは記憶している。吾輩はここで始めて人間というものを見た。しか もあとで聞くとそれは書生という人間中で一番獰悪どうあくな種族であったそうだ。この書生というのは時々我々を捕つかまえて煮にて食うという話である。しかしその当時は何 という考もなかったから別段恐しいとも思わなかった。ただ彼の掌てのひらに載せられてスーと持ち上げられた時何だかフワフワした感じがあったばかりである。掌の上で少し落 ちついて書生の顔を見たのがいわゆる人間というものの見始みはじめであろう。この時妙なものだと思った感じが今でも残っている。第一毛をもって装飾されべきはずの顔がつ るつるしてまるで薬缶やかんだ。その後ご猫にもだいぶ逢あったがこんな片輪かたわには一度も出会でくわした事がない。のみならず顔の真中があまりに突起している。そうし てその穴の中から時々ぷうぷうと煙けむりを吹く。どうも咽むせぽくて実に弱った。これが人間の飲む煙草たばこというものである事はようやくこの頃知った。  この書生の掌の裏うちでしばらくはよい心持に坐っておったが、しばらくすると非常な速力で運転し始めた。書生が動くのか自分だけが動くのか分らないが無暗むやみに眼が 廻る。胸が悪くなる。到底とうてい助からないと思っていると、どさりと音がして眼から火が出た。それまでは記憶しているがあとは何の事やらいくら考え出そうとしても分らない。  ふと気が付いて見ると書生はいない。たくさんおった兄弟が一疋ぴきも見えぬ。肝心かんじんの母親さえ姿を隠してしまった。その上今いままでの所とは違って無暗むやみに 明るい。眼を明いていられぬくらいだ。はてな何でも容子ようすがおかしいと、のそのそ這はい出して見ると非常に痛い。吾輩は藁わらの上から急に笹原の中へ棄てられたので ある。  ようやくの思いで笹原を這い出すと向うに大きな池がある。吾輩は池の前に坐ってどうしたらよかろうと考えて見た。別にこれという分別ふんべつも出ない。しばらくして泣いた ら書生がまた迎に来てくれるかと考え付いた。ニャー、ニャーと試みにやって見たが誰も来ない。そのうち池の上をさらさらと風が渡って日が暮れかかる。腹が非常に減って来 た。泣きたくても声が出ない。仕方がない、何でもよいから食物くいもののある所まであるこうと決心をしてそろりそろりと池を左ひだりに廻り始めた。どうも非常に苦しい。そこを 我慢して無理やりに這はって行くとようやくの事で何となく人間臭い所へ出た。ここへ這入はいったら、どうにかなると思って竹垣の崩くずれた穴から、とある邸内にもぐり込ん だ。縁は不思議なもので、もしこの竹垣が破れていなかったなら、吾輩はついに路傍ろぼうに餓死がししたかも知れんのである。一樹の蔭とはよく云いったものだ。この垣根の 穴は今日こんにちに至るまで吾輩が隣家となりの三毛を訪問する時の通路になっている。さて邸やしきへは忍び込んだもののこれから先どうして善いいか分らない。そのうちに 暗くなる、腹は減る、寒さは寒し、雨が降って来るという始末でもう一刻の猶予ゆうよが出来なくなった。仕方がないからとにかく明るくて暖かそうな方へ方へとあるいて行く。今か ら考えるとその時はすでに家の内に這入っておったのだ。ここで吾輩は彼かの書生以外の人間を再び見るべき機会に遭遇そうぐうしたのである。第一に逢ったのがおさんであ る。これは前の書生より一層乱暴な方で吾輩を見るや否やいきなり頸筋くびすじをつかんで表へ抛ほうり出した。いやこれは駄目だと思ったから眼をねぶって運を天に任せてい た。しかしひもじいのと寒いのにはどうしても我慢が出来ん。吾輩は再びおさんの隙すきを見て台所へ這はい上あがった。すると間もなくまた投げ出された。吾輩は投げ出され ては這い上り、這い上っては投げ出され、何でも同じ事を四五遍繰り返したのを記憶している。その時におさんと云う者はつくづくいやになった。この間おさんの三馬さんまを偸 ぬすんでこの返報をしてやってから、やっと胸の痞つかえが下りた。吾輩が最後につまみ出されようとしたときに、この家うちの主人が騒々しい何だといいながら出て来た。下女 は吾輩をぶら下げて主人の方へ向けてこの宿やどなしの小猫がいくら出しても出しても御台所おだいどころへ上あがって来て困りますという。主人は鼻の下の黒い毛を撚ひね りながら吾輩の顔をしばらく眺ながめておったが、やがてそんなら内へ置いてやれといったまま奥へ這入はいってしまった。主人はあまり口を聞かぬ人と見えた。下女は口惜く やしそうに吾輩を台所へ抛ほうり出した。かくして吾輩はついにこの家うちを自分の住家すみかと極きめる事にしたのである。  吾輩の主人は滅多めったに吾輩と顔を合せる事がない。職業は教師だそうだ。学校から帰ると終日書斎に這入ったぎりほとんど出て来る事がない。家のものは大変な勉強家 だと思っている。当人も勉強家であるかのごとく見せている。しかし実際はうちのものがいうような勤勉家ではない。吾輩は時々忍び足に彼の書斎を覗のぞいて見るが、彼はよく 昼寝ひるねをしている事がある。時々読みかけてある本の上に涎よだれをたらしている。彼は胃弱で皮膚の色が淡黄色たんこうしょくを帯びて弾力のない不活溌ふかっぱつな 徴候をあらわしている。その癖に大飯を食う。大飯を食った後あとでタカジヤスターゼを飲む。飲んだ後で書物をひろげる。二三ページ読むと眠くなる。涎を本の上へ垂らす。こ れが彼の毎夜繰り返す日課である。吾輩は猫ながら時々考える事がある。教師というものは実に楽らくなものだ。人間と生れたら教師となるに限る。こんなに寝ていて勤まるも のなら猫にでも出来ぬ事はないと。それでも主人に云わせると教師ほどつらいものはないそうで彼は友達が来る度たびに何とかかんとか不平を鳴らしている。 Select 全⽂検索 ベクトル検索 グラフ検索

Slide 18

Slide 18 text

© LayerX Inc. 18 AI Agentにおける検索 Task Result Agent Orchestrator SubAgent SubAgent SubAgent Context Tool use Context Search Tool for search Search for tool

Slide 19

Slide 19 text

LLM時代の検索 Search for context

Slide 20

Slide 20 text

© LayerX Inc. 20 主流はベクトル検索だが‧‧‧ Search for context Task Result Agent Orchestrator SubAgent SubAgent SubAgent Context Tool use Context Search Tool for search Search for tool Vector DB

Slide 21

Slide 21 text

© LayerX Inc. 21 Context and memory Task Result Agent Orchestrator SubAgent SubAgent SubAgent Tools Context Semantic Episodic Procedural Fact User DB ... Prompt & response Tool use & result Human feedback... System prompt... Memory

Slide 22

Slide 22 text

© LayerX Inc. 22 Memory by data structure Semantic Episodic Procedural Fact User DB ... Prompt & response Tool use & result Human feedback... System prompt... Memory 原文  吾輩わがはいは猫である。名前はまだ無い。  どこで生れたかとんと見当けんとうがつかぬ。何でも薄暗 いじめじめした所でニャーニャー泣いていた事だけは記憶 している。吾輩はここで始めて人間というものを見た。しか もあとで聞くとそれは書生という人間中で一番獰悪どうあく な種族であったそうだ。 要約 猫は、飼い主である苦沙弥先⽣やその周 囲の⼈々の⾔動を観察し、⾵刺的かつ⽪ ⾁たっぷりに語ります。物語は特定の⼤ きな事件が起こるわけではなく、猫が⽇ 常を通して⼈間の愚かさや滑稽さを論評 することで進⾏します。 Prompt [ {“role”: “system”, “content”: “あなたは優秀な猫です”}, {“role”: “user”, “content”: “『吾輩は猫である』を要約してく ださい”} ] Table Graph Response & feedback {“communication”: [ {“role”: “user”, “content”: “『吾輩は猫である』を要約してください”}, {“role”: “ai”, “content”: “猫は、飼い主である苦沙弥先⽣やその周囲の ⼈々の⾔動を観察し、⾵刺的かつ⽪⾁たっぷりに語ります。”} ], “feedback”: [{“role”: “user”, “content”: “素晴らしいです!”}] }

Slide 23

Slide 23 text

© LayerX Inc. 23 多様なデータ構造から適切に検索するためには、適切なデータ基盤‧検索システムを選ぶ必要あり Search for context Context Search from memory Semantic Episodic Procedural Fact User DB ... Prompt & response Tool use & result Human feedback... System prompt... Memory GraphDB GraphRAG DocumentDB VectorDB

Slide 24

Slide 24 text

© LayerX Inc. 24 多様なデータ構造から適切に検索するためには、適切なデータ基盤‧検索システムを選ぶ必要あり Search for context Context Search from memory GraphDB GraphRAG DocumentDB VectorDB User情報がほしい 「猫」を検索したい query: “猫” SELECT * FROM users WHERE id = 1;

Slide 25

Slide 25 text

© LayerX Inc. 25 多様なデータ構造から適切に検索するためには、適切なデータ基盤‧検索システムを選ぶ必要あり Search for context Context Search from memory GraphDB GraphRAG DocumentDB VectorDB 「『吾輩は猫である』 の 年代ごとの評価」を 知りたい 『吾輩は猫である』の 年代ごとの評価

Slide 26

Slide 26 text

LLM時代の検索 Tool for search & Search for tool

Slide 27

Slide 27 text

© LayerX Inc. 27 AI AgentにおけるSearch tool Task Result Agent Orchestrator SubAgent SubAgent SubAgent Context Tool use Context Search Tool for search Search API Browser Search

Slide 28

Slide 28 text

© LayerX Inc. 28 AI AgentにおけるSearch tool Tool use Tool for search Search API Browser Search Browser MCP

Slide 29

Slide 29 text

© LayerX Inc. 29 Search for tool AI AgentにおけるTool useの課題 Context Semantic memory Procedural memory Episodic memory 過去に実⾏した アクションとその結果 LLM / AI Agent Tool use 事実やユーザ情報 指⽰やプロンプト

Slide 30

Slide 30 text

© LayerX Inc. 30 外部サービスや関数をLLMから利⽤ AI AgentにおけるTool useの課題 def get_weather(location): return “Sunny” Function calling / tool calling MCP

Slide 31

Slide 31 text

© LayerX Inc. 31 利⽤可能なTool/MCPが⼤量に存在する Tool/MCPの実⽤上の制約や⾦額、効果、品質が不明瞭 とは⾔っても⾼々数百個のオーダー AI AgentにおけるTool useの課題

Slide 32

Slide 32 text

© LayerX Inc. 32 https://arxiv.org/pdf/2506.17188 マルチエージェントを⽤いた検索システムの設計と最適化に関する論⽂ Towards AI Search Paradigm - Baidu Search -

Slide 33

Slide 33 text

© LayerX Inc. 33 https://arxiv.org/pdf/2506.17188 呼び出すToolを選出するためにToolを理解する Towards AI Search Paradigm - Baidu Search -

Slide 34

Slide 34 text

© LayerX Inc. 34 https://arxiv.org/pdf/2506.17188 Search for tool Towards AI Search Paradigm - Baidu Search - Tool Simulate & experiment Learn from experience Document rewrite Document and specification written by human Document for AI

Slide 35

Slide 35 text

© LayerX Inc. 35 https://arxiv.org/pdf/2506.17188 Matching between prompt and tool Towards AI Search Paradigm - Baidu Search - Tool Tool document for AI User query LLM tool encoder LLM prompt encoder Relevant tool Cosine Similarity Semantic learning Collaborative learning

Slide 36

Slide 36 text

まとめ

Slide 37

Slide 37 text

© LayerX Inc. 37 ● LLM/AI Agentを⾼度に活⽤するためにはContextとToolの検索が重要 ● Context engineeringでは多様なデータモデルを検索することが求められる ● 検索ツールと、ツールのための検索がAI Agentのケイパビリティを拡張する まとめ

Slide 38

Slide 38 text

© LayerX Inc. 38 We are hiring! AIシニアデータエンジニア AI検索エンジニア https://open.talentio.com/r/1/c/layerx/pages/107758 LLM/AI Agentのための検索システム https://open.talentio.com/r/1/c/layerx/pages/109629 多様なモダリティを扱うAIのためのデータシステム