Upgrade to Pro — share decks privately, control downloads, hide ads and more …

ElixirでローカルLLM＋Difyを動かし、MCPが混ざると ….

Sponsored · Your Podcast. Everywhere. Effortlessly. Share. Educate. Inspire. Entertain. You do you. We'll handle the rest. →
Avatar for ymn ymn
May 27, 2025
0
64

ElixirでローカルLLM＋Difyを動かし、MCPが混ざると ….

Avatar for ymn

ymn

May 27, 2025
Tweet

More Decks by ymn

See All by ymn
ollama voicevox 3jsでAIアバターを喋らせる
Avatar for ymn ymn
0
110
piyopiyo.ex #1 Phoenix install 〜Hello,world! (Windows)
Avatar for ymn ymn
0
450

Featured

See All Featured
Highjacked: Video Game Concept Design
Avatar for Ryan Kendrick rkendrick25
PRO
1
330
Learning to Love Humans: Emotional Interface Design
Avatar for Aarron Walter aarron
275
41k
Designing for humans not robots
Avatar for Tammie Lister tammielis
254
26k
<Decoding/> the Language of Devs - We Love SEO 2024
Avatar for Nikki Halliwell nikkihalliwell
1
160
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
Avatar for Eileen M. Uchitelle eileencodes
141
35k
4 Signs Your Business is Dying
Avatar for Josh Pigford shpigford
187
22k
XXLCSS - How to scale CSS and keep your sanity
Avatar for Zaharenia Atzitzikaki sugarenia
249
1.3M
Marketing to machines
Avatar for Jono Alderson jonoalderson
1
5k
Hiding What from Whom? A Critical Review of the History of Programming languages for Music
Avatar for Tomoya Matsuura tomoyanonymous
2
590
Noah Learner - AI + Me: how we built a GSC Bulk Export data pipeline
Avatar for Tech SEO Connect techseoconnect
PRO
0
150
The Pragmatic Product Professional
Avatar for Laura Van Doore lauravandoore
37
7.2k
DevOps and Value Stream Thinking: Enabling flow, efficiency and business value
Avatar for Helen Beal helenjbeal
1
150

Transcript

  1. Elixir でローカルLLM ＋Dify を動かし、MCP が混ざると …

  2. 実際に動かしてみる 0:00/ 0:09

  3. LiveView 人間とのインターフェース

  4. Dify LiveView とのインターフェース 開始はLiveView から文章を受け取ります

  5. Dify MCP サーバーとのインターフェース クライアントとしてMCP FunctionCalling を使う

  6. Dify LLM その２　

  7. Dify LM-Studio とインターフェース モデルプロバーダー OpenAI-API-compatible

  8. Dify 終了はLiveView から文章を渡します

  9. MCP サーバー MCP サーバー（server-filesystem ） MCP クライアントの指示の元ファイル操作をする MCP サーバーのプロキシ(supergateway) SDTIO(MCP

    サーバ) <=> 　Dify(SSE) に変換 server-filesystem をsupergateway 経由で起動 $ npx -y supergateway --stdio "npx -y @modelcontextprotocol/server-filesystem ~/local/mcp/tmp"

  10. MCP サーバーの検証 npx @modelcontextprotocol/inspector

  11. LM-Studio LLM （Large Language Models ）を動かす本体 モデル internlm2_5-20b-chat

  12. LM-Studio ランタイム CUDA llama.cpp (Linux) Vulkan llama.cpp (Linux) でも可能

  13. None