Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
DGX SparkでローカルLLMをLangChainで動かした話
Search
Hirokatsu Endo
November 27, 2025
Technology
0
71
DGX SparkでローカルLLMをLangChainで動かした話
Hirokatsu Endo
November 27, 2025
Tweet
Share
More Decks by Hirokatsu Endo
See All by Hirokatsu Endo
Amazon Bedrock Agent Core ~ AIエージェント時代を支えるAWSの新基盤 ~
ruzia
0
33
Lambda&FargateとPlanetScaleで作るServerless Rails環境
ruzia
0
260
デフォルトにして至高、RubyMineの大好きな所
ruzia
0
3.8k
AWS Lambda + PlanetScale = 超絶スケールWebアプリ
ruzia
1
270
Jets ~ Rubyで始めるServerless生活 ~
ruzia
0
1.2k
Jets ~Rubyで始めるServerless生活~
ruzia
0
780
プログラマがAMPと付き合う上で 知っておくべきこと
ruzia
0
2.3k
Other Decks in Technology
See All in Technology
AI駆動開発を実現するためのアーキテクチャと取り組み
baseballyama
17
14k
20251127 BigQueryリモート関数で作る、お手軽AIバッチ実行環境
daimatz
0
160
機械学習を「社会実装」するということ 2025年冬版 / Social Implementation of Machine Learning November 2025 Version
moepy_stats
4
610
経営から紐解くデータマネジメント
pacocat
7
1.5k
2025 DORA Reportから読み解く!AIが映し出す、成果を出し続ける組織の共通点 #開発生産性_findy
takabow
0
520
AI自動ペンテスト「RapidPen」ご紹介資料
laysakura
0
110
雲勉LT_Amazon Bedrock AgentCoreを知りAIエージェントに入門しよう!
ymae
2
220
信頼性が求められる業務のAIAgentのアーキテクチャ設計の勘所と課題
miyatakoji
0
190
All About Sansan – for New Global Engineers
sansan33
PRO
1
1.3k
学術的根拠から読み解くNotebookLMの音声活用法
shukob
0
490
【ASW21-02】STAMP/CAST分析における生成AIの支援 ~羽田空港航空機衝突事故を題材として (Support of Generative AI in STAMP/CAST Analysis - A Case Study Based on the Haneda Airport Aircraft Accident -)
hianraku9498
1
250
個人から巡るAI疲れと組織としてできること - AI疲れをふっとばせ。エンジニアのAI疲れ治療法 ショートセッション -
kikuchikakeru
5
1.9k
Featured
See All Featured
The Illustrated Children's Guide to Kubernetes
chrisshort
51
51k
A designer walks into a library…
pauljervisheath
210
24k
How STYLIGHT went responsive
nonsquared
100
5.9k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
127
54k
Git: the NoSQL Database
bkeepers
PRO
432
66k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
25
1.6k
Scaling GitHub
holman
464
140k
Imperfection Machines: The Place of Print at Facebook
scottboms
269
13k
Statistics for Hackers
jakevdp
799
230k
Put a Button on it: Removing Barriers to Going Fast.
kastner
60
4.1k
Learning to Love Humans: Emotional Interface Design
aarron
274
41k
How To Stay Up To Date on Web Technology
chriscoyier
791
250k
Transcript
personal AI computer DGX Spark ~ ϩʔΧϧLLMͰLangChainಈ͔ͯ͠Έͨ ~ LangChain Meetup
Tokyo #7 גࣜձࣾδΣωϥςΟϒΤʔδΣϯπ ԕ౻ େհ / @ruzia ಧ ͍ ͨ ʂ
ࣗݾհ ‣ԕ౻ େհ / @ruzia ‣δΣωϥςΟϒΤʔδΣϯπॴଐ ‣Πϯϑϥͱػցֶशܥ͕͖ ‣Claude CodeͲͬΓ ‣ϩʔυόΠΫָ͍͠
‣FLUX.2ྑ͍ͧɾɾɾʂ
None
AIΤʔδΣϯτ͕ʮϋϒʯͱͳΓ ਓؒͱAIΤʔδΣϯτͷڠಇ͕ ͨΓલʹͳΔੈքΛ࣮ݱ͢Δ
None
ຊ
ຊͷ͓Β ‣DGX SparkͬͯͲ͏͍͏ͷʁ ‣ϩʔΧϧLLMͲ͏ͬͯಈ͔͢ʁ ‣ͱ͍͏͜ͱLangChainͰϩʔΧϧLLM͕ʂ ‣ϑΟʔυόοΫ #LangChainJP ·Ͱ
Q DGX Sparkͬͯ ฉ͍ͨ͜ͱ͋Δਓʁ
NVIDIA͕࡞ͬͨ ύʔιφϧAIίϯϐϡʔλ
None
ͪͳΈʹॳͷ DGX-1͜ΜͳαΠζײ
None
ॳFP16Ͱ 960ςϥϑϩοϓε FP4ਫ਼Ͱ࠷େ1ϖλϑϩοϓεͷ ԋࢉೳྗͱ128GBͷϝϞϦΛ ࣋ͪͭͭফඅిྗ͕240W ͱ͍͏Խ͚Ϛγϯ
OSUbuntuΛ ΧελϜͨ͠DGX OS
None
ηοτΞοϓ ϒϥβܦ༝ͰՄೳ
None
None
Q ϩʔΧϧLLMΛ ಈ͔ͨ͠ࣄ͕͋Δਓʁ
Ollama Chat & build with open models
OllamaΛ͏ͱϩʔΧϧͰ gpt-ossͱ͔qwen3-vlͱ͔Λ ಈ͔͢ࣄ͕Ͱ͖Δ
None
None
LangChainʹOllama༻ͷ ΠϯςάϨʔγϣϯ͕ ࣮͞ΕͯΔ ͳΜͱʂ
“https://docs.langchain.com/oss/python/integrations/chat/ollama”
ͱ͍͏͜ͱʂ LangChainͰʂ ϩʔΧϧLLM͕ʂ
None
$ python main.py ࢲLangChain͕େ͖Ͱ͢ʂ
None
ϩʔΧϧͰ120BͷϞσϧ͕ αΫοͱಈ͔ͤΔͷ ·͡Ͱ͍͠໘ന͍
৭ʑݴΘΕͯΔ DGX Spark͚ͩͲ ৮Δͱָ͍͠ʂ ເ͔͠ͳ͍ʂ
͝ਗ਼ௌ͋Γ͕ͱ͏ ͍͟͝·ͨ͠ʂ