Upgrade to Pro — share decks privately, control downloads, hide ads and more …

ElixirでローカルLLM＋Difyを動かし、MCPが混ざると ….

Avatar for ymn ymn
May 27, 2025
66
0

ElixirでローカルLLM＋Difyを動かし、MCPが混ざると ….

Avatar for ymn

ymn

May 27, 2025

More Decks by ymn

See All by ymn
ollama voicevox 3jsでAIアバターを喋らせる
Avatar for ymn ymn
0
120
piyopiyo.ex #1 Phoenix install 〜Hello,world! (Windows)
Avatar for ymn ymn
0
450

Featured

See All Featured
AI Search:
Where Are We & What Can We Do About It?
Avatar for Aleyda Solis aleyda
0
7.3k
Imperfection Machines: The Place of Print at Facebook
Avatar for Scott Boms scottboms
270
14k
Test your architecture with Archunit
Avatar for Yoan thirion
1
2.2k
The Director’s Chair: Orchestrating AI for Truly Effective Learning
Avatar for Mike Taylor tmiket
1
150
Neural Spatial Audio Processing for Sound Field Analysis and Control
Avatar for NII S. Koyama's Lab skoyamalab
0
250
The Power of CSS Pseudo Elements
Avatar for Geoffrey Crofte geoffreycrofte
82
6.2k
The Cult of Friendly URLs
Avatar for Andy Hume andyhume
79
6.8k
Navigating the Design Leadership Dip - Product Design Week Design Leaders+ Conference 2024
Avatar for Andy Polaine apolaine
0
270
How to Talk to Developers About Accessibility
Avatar for Jason CranfordTeague jct
2
170
[RailsConf 2023] Rails as a piece of cake
Avatar for Vladimir Dementyev palkan
59
6.5k
How to Build an AI Search Optimization Roadmap - Criteria and Steps to Take #SEOIRL
Avatar for Aleyda Solis aleyda
1
2k
Leveraging LLMs for student feedback in introductory data science courses - posit::conf(2025)
Avatar for Mine Cetinkaya-Rundel minecr
1
220

Transcript

  1. Elixir でローカルLLM ＋Dify を動かし、MCP が混ざると …

  2. 実際に動かしてみる 0:00/ 0:09

  3. LiveView 人間とのインターフェース

  4. Dify LiveView とのインターフェース 開始はLiveView から文章を受け取ります

  5. Dify MCP サーバーとのインターフェース クライアントとしてMCP FunctionCalling を使う

  6. Dify LLM その２　

  7. Dify LM-Studio とインターフェース モデルプロバーダー OpenAI-API-compatible

  8. Dify 終了はLiveView から文章を渡します

  9. MCP サーバー MCP サーバー（server-filesystem ） MCP クライアントの指示の元ファイル操作をする MCP サーバーのプロキシ(supergateway) SDTIO(MCP

    サーバ) <=> 　Dify(SSE) に変換 server-filesystem をsupergateway 経由で起動 $ npx -y supergateway --stdio "npx -y @modelcontextprotocol/server-filesystem ~/local/mcp/tmp"

  10. MCP サーバーの検証 npx @modelcontextprotocol/inspector

  11. LM-Studio LLM （Large Language Models ）を動かす本体 モデル internlm2_5-20b-chat

  12. LM-Studio ランタイム CUDA llama.cpp (Linux) Vulkan llama.cpp (Linux) でも可能

  13. None