Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ElixirでローカルLLM+Difyを動かし、MCPが混ざると ….
Search
ymn
May 27, 2025
0
55
ElixirでローカルLLM+Difyを動かし、MCPが混ざると ….
ymn
May 27, 2025
Tweet
Share
More Decks by ymn
See All by ymn
ollama voicevox 3jsでAIアバターを喋らせる
ymn
0
49
piyopiyo.ex #1 Phoenix install 〜Hello,world! (Windows)
ymn
0
430
Featured
See All Featured
Dealing with People You Can't Stand - Big Design 2015
cassininazir
367
27k
Connecting the Dots Between Site Speed, User Experience & Your Business [WebExpo 2025]
tammyeverts
10
600
Become a Pro
speakerdeck
PRO
29
5.6k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
48
9.7k
Facilitating Awesome Meetings
lara
56
6.6k
Being A Developer After 40
akosma
91
590k
A designer walks into a library…
pauljervisheath
209
24k
Improving Core Web Vitals using Speculation Rules API
sergeychernyshev
21
1.2k
Keith and Marios Guide to Fast Websites
keithpitt
411
23k
Statistics for Hackers
jakevdp
799
220k
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
9
980
Leading Effective Engineering Teams in the AI Era
addyosmani
7
500
Transcript
Elixir でローカルLLM +Dify を動かし、MCP が混ざると …
実際に動かしてみる 0:00/ 0:09
LiveView 人間とのインターフェース
Dify LiveView とのインターフェース 開始はLiveView から文章を受け取ります
Dify MCP サーバーとのインターフェース クライアントとしてMCP FunctionCalling を使う
Dify LLM その2
Dify LM-Studio とインターフェース モデルプロバーダー OpenAI-API-compatible
Dify 終了はLiveView から文章を渡します
MCP サーバー MCP サーバー(server-filesystem ) MCP クライアントの指示の元ファイル操作をする MCP サーバーのプロキシ(supergateway) SDTIO(MCP
サーバ) <=> Dify(SSE) に変換 server-filesystem をsupergateway 経由で起動 $ npx -y supergateway --stdio "npx -y @modelcontextprotocol/server-filesystem ~/local/mcp/tmp"
MCP サーバーの検証 npx @modelcontextprotocol/inspector
LM-Studio LLM (Large Language Models )を動かす本体 モデル internlm2_5-20b-chat
LM-Studio ランタイム CUDA llama.cpp (Linux) Vulkan llama.cpp (Linux) でも可能
None