アプリ開発AI Agent内部のAIオーケストレーション(ABC vol.1 )

Transcript

1. vol.1 2025.03.15 Tue 19:30 ~　 @ KERNEL HONGO
2. アプリ開発AI Agent内部の AIオーケストレーション Arrowheads CEO 松原冬樹
3. 松原冬樹 @fuyuki_m_ -略歴- 東京大学大学院工学系研究科修士課程修了(深層学習の応用研究) ↓ J.P.Morgan Securities APAC Limited(Hong Kong) ↓ Arrowheads株式会社 ・KERNEL管理人(非公式) ・お笑い養成所サンミュージックエンターテイメントアカデミー2期生 ・AI開発界隈にも最近出没しています 自己紹介
4. 「自然言語→アプリ」が実現しつつある時代
5. 「自然言語→アプリ」が実現しつつある時代 →これらのサービスはそもそもどうやってできているのか... 🧐
6. 当初のイメージ https://www.llamaindex.ai/blog/introducing-llama-agents-a-powerful-framework-for-building-production-multi-agent-ai-systems
7. IDEA
9. 作ってみた Orchestratorに推論能力の高いLLM(Master Agent)を用い てcode生成モデル、chatモデルを統括させるマルチエー ジェントフレームワーク
10. 作ってみた Orchestratorに推論能力の高いLLM(Master Agent)を用い てcode生成モデル、chatモデルを統括させるマルチエー ジェントフレームワーク →沼る。
11. 作ってみた Orchestratorに推論能力の高いLLM(Master Agent)を用い てcode生成モデル、chatモデルを統括させるマルチエー ジェントフレームワーク →沼る。 ファイル間の依存関係共有の壁 Agent間のデータスキーマが不安定
12. 作ってみた Orchestratorに推論能力の高いLLM(Master Agent)を用い てcode生成モデル、chatモデルを統括させるマルチエー ジェントフレームワーク →沼る。 ファイル間の依存関係共有の壁 Agent間のデータスキーマが不安定 →AIゴミ量産AI Agentが爆誕 🤯
13. 巨人の肩に乗る
14. bolt.new
15. bolt.new 単一LLM(Claude Sonnet)に長文system promptを渡していた Orchestratorはルールベース。ParseしやすいようにLLMの 出力はXML形式
16. v0(vercel)
17. v0(vercel) 単一LLM(Claude Sonnet)に長文system promptを渡していた Orchestratorはルールベース。ParseしやすいようにLLMの 出力はMDX形式
18. 作ってみた(2回目)
19. 作ってみた(2回目) 単一LLM(Claude Sonnet)に長文system promptを渡してみた Orchestratorはルールベース。ParseしやすいようにLLMの 出力はXML形式になるようsystem_promptで指定(半分恫喝)
20. 作ってみた(2回目) 単一LLM(Claude Sonnet)に長文system promptを渡してみた Orchestratorはルールベース。ParseしやすいようにLLMの 出力はXML形式になるようsystem_promptで指定(半分恫喝)
21. 作ってみた(2回目)
23. まとめ コンテキストがすべて boltやv0も実はシンプルなアーキテクチャを採用 LLM間の往復数を減らすためにデータのスキーマを工夫
24. APPENDIX
25. パラメータチューニング temperature system_prompt を適宜チューニングする必要がある
26. パラメータチューニング temperature system_prompt を適宜チューニングする必要がある →テスト用アプリを10種類(TikTokクローンアプリ、Tinderクロ ーンアプリ、UpWorkクローンアプリ...etc) を作らせてグリッドサーチによって Functionality Design を高い水準で満たすパラメータを選定
27. 全体のアーキテクチャ