Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Digdag@表参道.rb #14
Search
Takuya Arita
August 05, 2016
Programming
1
1.4k
Digdag@表参道.rb #14
表参道.rb #14のLT資料です
Takuya Arita
August 05, 2016
Tweet
Share
More Decks by Takuya Arita
See All by Takuya Arita
Hosted Redash の EOL と移行ツール redash-migrate / You should know about Hosted Redash EOL and redash-migrate
ariarijp
0
3.1k
Redash で踏み出す BI 導入はじめの一歩 / DataEngineeringStudy Redash
ariarijp
1
2.3k
Redash のいま / Redash in 2021
ariarijp
2
1.1k
Redash 導入・運用を4年ぐらいやって変わったこと・変わらなかったこと / Changed and unchanged things with Redash and me
ariarijp
0
1.3k
5年前の自分に伝えたい広告 API 周辺の歩き方 / SOT Tech Night vol.1
ariarijp
1
500
使われていない、を知る / How do we know unused things in the real world?
ariarijp
0
420
MULTI_ORG について / What is MULTI_ORG in Redash
ariarijp
1
3.6k
あらためて振り返る Redash の使いどころ / Why I strongly recommend Redash
ariarijp
2
1.2k
PHP Data Structures
ariarijp
1
540
Other Decks in Programming
See All in Programming
LINEヤフー データグループ紹介
lycorp_recruit_jp
0
1.7k
プロダクト志向ってなんなんだろうね
righttouch
PRO
0
180
エラーって何種類あるの?
kajitack
5
340
Team topologies and the microservice architecture: a synergistic relationship
cer
PRO
0
1.2k
Quand Symfony, ApiPlatform, OpenAI et LangChain s'allient pour exploiter vos PDF : de la théorie à la production…
ahmedbhs123
0
120
AIプログラマーDevinは PHPerの夢を見るか?
shinyasaita
1
190
GraphRAGの仕組みまるわかり
tosuri13
8
520
Google Agent Development Kit でLINE Botを作ってみた
ymd65536
2
220
イベントストーミング図からコードへの変換手順 / Procedure for Converting Event Storming Diagrams to Code
nrslib
1
580
生成AIコーディングとの向き合い方、AIと共創するという考え方 / How to deal with generative AI coding and the concept of co-creating with AI
seike460
PRO
1
350
Composerが「依存解決」のためにどんな工夫をしているか #phpcon
o0h
PRO
1
250
Cursor AI Agentと伴走する アプリケーションの高速リプレイス
daisuketakeda
1
130
Featured
See All Featured
Typedesign – Prime Four
hannesfritz
42
2.7k
Raft: Consensus for Rubyists
vanstee
140
7k
Navigating Team Friction
lara
187
15k
Music & Morning Musume
bryan
46
6.6k
Into the Great Unknown - MozCon
thekraken
39
1.9k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
46
9.6k
The Cost Of JavaScript in 2023
addyosmani
51
8.5k
Six Lessons from altMBA
skipperchong
28
3.9k
Imperfection Machines: The Place of Print at Facebook
scottboms
267
13k
GitHub's CSS Performance
jonrohan
1031
460k
We Have a Design System, Now What?
morganepeng
53
7.7k
BBQ
matthewcrist
89
9.7k
Transcript
Digdag@දࢀಓ.rb #14 @ariarijp
ࣗݾհ • @ariarijp (Takuya Arita) • දࢀಓ.rbࢀՃ3ճɺൃද2ճ • ιϑτΣΞΤϯδχΞ@ίίϥϒϧ
ࣄͷ8ׂόονॲཧ
None
όονॲཧͷͭΒΈ • ຯ • -> ผʹݏ͡Όͳ͍ • CSV • ->
ͭΒ͍͚Ͳࠓʹ͠ͳ͍ • ґଘؔͷߟྀ • -> ͭΒ͍
Α͋͘Δґଘؔ • όονA, B, C, D, E, F, G͕͋Δ •
A, B, Cฒྻ࣮ߦͰ͖Δ • DA, B, C͕͔ͯྃͯ͢͠Β࣮ߦ • E, FD͕͔ྃͯ͠Β࣮ߦɺฒྻ࣮ߦͰ͖Δ • GE, F͕͔ͯྃͯ͢͠Β࣮ߦ
ґଘؔΛ͕Μͬͯղܾ͢Δ • ྻʹ࣮ߦ • -> ॱ൪कΒΕΔ͠ɺΘ͔Γ͍͚͢Ͳ͍ • εςʔλεΛԿΒ͔ͷܗͰཧͯ͠ฒྻ࣮ߦΛఘΊͳ͍ • ->
ҟৗऴྃͨ࣌͠ͷεςʔλεΫϦΞͳͲͷߟྀ͕໘ • ࣮ߦִؒΛௐͭͭ͠ɺͳʹ͔ى͖ͨΒӡ༻ͰΧόʔ͢ΔલఏͰ crontabγΣϧεΫϦϓτΛͬͯฒྻ࣮ߦ • ->
ͦ͜Ͱ Digdag
Digdag • Fluentd, Embulkʹଓ͘Treasure DataϓϩμΫτ • JavaͳͷͰ͍͍ͩͨͲ͜Ͱಈ͘ɺΠϯετʔϧָ • YamlͰϫʔΫϑϩʔΛఆٛ͠ɺdigdag runͰ࣮ߦ
• όονΛฒྻ࣮ߦɺόοΫάϥϯυ࣮ߦ͢Δ͜ͱ͕ Ͱ͖ɺґଘؔ·ΘΓͷࠔΓࣄҰ௨ΓϑΥϩʔ͞Ε ͍ͯΔҹ
Digdagʹ͍ͭͯͷޡղ • TDͰEmbulkTD, BigQueryͱ߹Θͤͯ հ͞ΕΔ͜ͱ͕ଟ͍ͨΊɺେྔͷσʔλΛѻ ͏ͨΊͷπʔϧͱࢥΘΕ͕ͪͳͷͰʁ • DigdagϫʔΫϑϩʔΛཧͯ͘͠ΕΔ͚ͩ ͳͷͰɺόονॲཧશൠʹར༻Ͱ͖Δ
DigdagͬͯΈͨ • PHPͰॻ͔Ε͍͔ͨͭ͘ͷόονΛ࣮ߦ͢ΔϫʔΫϑϩʔΛ ఆٛ • sh> ΦϖϨʔλʔΛ͑ΕPHPͰͳΜͱ͔ͳΔ • ఆٛͨ͠ϦετΛͬͯ܁Γฦ࣮͠ߦͰ͖Δfor_each> ศར
• ฒྻԽΛఘΊ͍ͯͨόονɺࠞಱͱͨ͠crontabʹฏ ͕ͨΒ͞Εͨ
ࠓදࢀಓ.rbͳͷʹ ·ͩRubyͷͯ͠ͳ͍ɾɾɾ
Ruby API
Ruby APIͷ͍ํ • ϫʔΫϑϩʔͷ֤εςοϓͷॲཧΛϝιουͱͯ࣋͠ ͭΫϥεΛॻ͍ͨRubyεΫϦϓτΛಡΈࠐΉ • rb> ΦϖϨʔλʔͰͲͷϝιουΛ࣮ߦ͢Δ͔Λఆٛ ͢Δ •
RubyεΫϦϓτ͔ΒϫʔΫϑϩʔͰ༻͢Δม Λఆٛͨ͠ΓɺࢠλεΫΛ࡞ɾ࣮ߦ͢Δ͜ͱͰ͖ Δ
Ruby APIͷҙ • rubyͷύεΛࢦఆͰ͖ͳͦ͞͏ͳͷͰɺrbenvͳͲͰόʔδϣϯΛ Γସ͑Δ • υΩϡϝϯτʹهࡌ͞Ε͍ͯΔαϯϓϧɺσϑΥϧτͳ͠ͷ ΩʔϫʔυҾ͕͋ͬͨͷͰ2.1Ҏ߱લఏͬΆ͍ • εΫϦϓτผϓϩηεͰಈ͘ͷͰɺ࣮ߦ݁ՌͳͲΛڞ༗͍ͨ͠
߹DigdagͷมDB, ϑΝΠϧͳͲͰڞ༗͢Δ • Ruby API͔Βઃఆͨ͠ม͕ྻͩͬͨ߹ɺͦͷมΛͬͯ for_each> Ͱ͙Δ͙Δճ͢ͷͰ͖ͳͦ͞͏
͕࣌ؒ͋Ε DigdagͱRuby APIͷσϞ
·ͱΊ • ग़ੈ͠Α͏ͱ͠ͳ͘ͱόονॲཧͦΕͳ Γʹॻ͘͜ͱʹͳΔ • DigdagσʔλΤϯδχΞϦϯάͷ༻్Ҏ֎ ͰϫʔΫϑϩʔΤϯδϯͱͯ͑͠Δ • ґଘؔͷ͋Δͪΐͬͱෳࡶͳόονॲཧ Digdagͷग़൪͔
ࢀߟࢿྉ • υΩϡϝϯτ • http://www.digdag.io/ • ݹڮః೭͞ΜΠϯλϏϡʔ - Tokyo RubyKaigi
11 #tkrk11 • http://regional.rubykaigi.org/tokyo11/interview/frsyuki/ • DigdagͰruby/pythonؒͰมΛ͢ • http://qiita.com/toru-takahashi/items/ 418eb5a4dda4e8555a00