Upgrade to Pro — share decks privately, control downloads, hide ads and more …

ElixirでローカルLLM＋Difyを動かし、MCPが混ざると ….

Avatar for ymn ymn
May 27, 2025
79
0

ElixirでローカルLLM＋Difyを動かし、MCPが混ざると ….

Avatar for ymn

ymn

May 27, 2025

More Decks by ymn

See All by ymn
ollama voicevox 3jsでAIアバターを喋らせる
Avatar for ymn ymn
0
130
piyopiyo.ex #1 Phoenix install 〜Hello,world! (Windows)
Avatar for ymn ymn
0
460

Featured

See All Featured
Optimizing for Happiness
Avatar for Tom Preston-Werner mojombo
378
71k
Into the Great Unknown - MozCon
Avatar for Noah Learner thekraken
41
2.5k
The Anti-SEO Checklist Checklist. Pubcon Cyber Week
Avatar for Ryan Jones ryanjones
0
140
Organizational Design Perspectives: An Ontology of Organizational Design Elements
Avatar for Dr. Kim W Petersen kimpetersen
PRO
1
700
Game over? The fight for quality and originality in the time of robots
Avatar for Wayne Barker wayneb77
1
170
How to Build an AI Search Optimization Roadmap - Criteria and Steps to Take #SEOIRL
Avatar for Aleyda Solis aleyda
1
2k
職位にかかわらず全員がリーダーシップを発揮するチーム作り / Building a team where everyone can demonstrate leadership regardless of position
Avatar for MADOX madoxten
62
54k
Amusing Abliteration
Avatar for ianozsvald ianozsvald
1
170
Measuring & Analyzing Core Web Vitals
Avatar for Philip Tellis bluesmoon
9
820
Practical Tips for Bootstrapping Information Extraction Pipelines
Avatar for Matthew Honnibal honnibal
25
1.9k
Leveraging LLMs for student feedback in introductory data science courses - posit::conf(2025)
Avatar for Mine Cetinkaya-Rundel minecr
1
250
A designer walks into a library…
Avatar for Paul Jervis Heath pauljervisheath
211
24k

Transcript

  1. Elixir でローカルLLM ＋Dify を動かし、MCP が混ざると …

  2. 実際に動かしてみる 0:00/ 0:09

  3. LiveView 人間とのインターフェース

  4. Dify LiveView とのインターフェース 開始はLiveView から文章を受け取ります

  5. Dify MCP サーバーとのインターフェース クライアントとしてMCP FunctionCalling を使う

  6. Dify LLM その２　

  7. Dify LM-Studio とインターフェース モデルプロバーダー OpenAI-API-compatible

  8. Dify 終了はLiveView から文章を渡します

  9. MCP サーバー MCP サーバー（server-filesystem ） MCP クライアントの指示の元ファイル操作をする MCP サーバーのプロキシ(supergateway) SDTIO(MCP

    サーバ) <=> 　Dify(SSE) に変換 server-filesystem をsupergateway 経由で起動 $ npx -y supergateway --stdio "npx -y @modelcontextprotocol/server-filesystem ~/local/mcp/tmp"

  10. MCP サーバーの検証 npx @modelcontextprotocol/inspector

  11. LM-Studio LLM （Large Language Models ）を動かす本体 モデル internlm2_5-20b-chat

  12. LM-Studio ランタイム CUDA llama.cpp (Linux) Vulkan llama.cpp (Linux) でも可能

  13. None