Upgrade to Pro — share decks privately, control downloads, hide ads and more …

ElixirでローカルLLM＋Difyを動かし、MCPが混ざると ….

Avatar for ymn ymn
May 27, 2025
93
0

ElixirでローカルLLM＋Difyを動かし、MCPが混ざると ….

Avatar for ymn

ymn

May 27, 2025

More Decks by ymn

See All by ymn
ollama voicevox 3jsでAIアバターを喋らせる
Avatar for ymn ymn
0
150
piyopiyo.ex #1 Phoenix install 〜Hello,world! (Windows)
Avatar for ymn ymn
0
460

Featured

See All Featured
Making Projects Easy
Avatar for Brett Harned brettharned
120
6.7k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
Avatar for Morgane Peng morganepeng
133
19k
Design in an AI World
Avatar for tapps tapps
1
250
世界の人気アプリ100個を分析して見えたペイウォール設計の心得
Avatar for Akihiro Kokubo akihiro_kokubo
PRO
72
40k
Six Lessons from altMBA
Avatar for Skipper Chong Warson skipperchong
29
4.3k
The Curious Case for Waylosing
Avatar for Cassini Nazir cassininazir
1
410
The browser strikes back
Avatar for Jono Alderson jonoalderson
0
1.3k
The Spectacular Lies of Maps
Avatar for Per Axbom axbom
PRO
1
830
What’s in a name? Adding method to the madness
Avatar for The Alliance productmarketing
PRO
24
4.1k
A designer walks into a library…
Avatar for Paul Jervis Heath pauljervisheath
211
24k
Stewardship and Sustainability of Urban and Community Forests
Avatar for Eric Wiseman pwiseman
0
240
Being A Developer After 40
Avatar for Adrian Kosmaczewski akosma
91
590k

Transcript

  1. Elixir でローカルLLM ＋Dify を動かし、MCP が混ざると …

  2. 実際に動かしてみる 0:00/ 0:09

  3. LiveView 人間とのインターフェース

  4. Dify LiveView とのインターフェース 開始はLiveView から文章を受け取ります

  5. Dify MCP サーバーとのインターフェース クライアントとしてMCP FunctionCalling を使う

  6. Dify LLM その２　

  7. Dify LM-Studio とインターフェース モデルプロバーダー OpenAI-API-compatible

  8. Dify 終了はLiveView から文章を渡します

  9. MCP サーバー MCP サーバー（server-filesystem ） MCP クライアントの指示の元ファイル操作をする MCP サーバーのプロキシ(supergateway) SDTIO(MCP

    サーバ) <=> 　Dify(SSE) に変換 server-filesystem をsupergateway 経由で起動 $ npx -y supergateway --stdio "npx -y @modelcontextprotocol/server-filesystem ~/local/mcp/tmp"

  10. MCP サーバーの検証 npx @modelcontextprotocol/inspector

  11. LM-Studio LLM （Large Language Models ）を動かす本体 モデル internlm2_5-20b-chat

  12. LM-Studio ランタイム CUDA llama.cpp (Linux) Vulkan llama.cpp (Linux) でも可能

  13. None