Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
BigQueryで金を溶かさない知識
Search
Aipa
April 22, 2019
Technology
0
580
BigQueryで金を溶かさない知識
「【沖縄開催!】中国地方DB勉強会 in 沖縄」でLTしてきたスライド
https://dbstudychugoku.connpass.com/event/127067/
Aipa
April 22, 2019
Tweet
Share
More Decks by Aipa
See All by Aipa
ピンチヒッターです。なにか話します
commander_aipa
0
82
おれたちはいつDXできるのか
commander_aipa
1
46
ウンケーニオキタコワイハナシ
commander_aipa
0
95
Nuxt3 Deeeeeeeeeeeeeeeeeeeeeploy
commander_aipa
0
140
Meilisearchでハイブリッドベクトル検索
commander_aipa
0
91
Honoの導入を検討していたが、Honoの人が来沖するらしいので、急いでHonoを導入した話
commander_aipa
0
170
Dの意思は神を殺す
commander_aipa
0
82
ファインチューニングがしたい
commander_aipa
0
170
サクッと検索サーバを用意する
commander_aipa
0
180
Other Decks in Technology
See All in Technology
Охота на косуль у древних
ashapiro
0
110
AIエージェント入門
minorun365
PRO
31
18k
RayでPHPのデバッグをちょっと快適にする
muno92
PRO
0
190
IAMのマニアックな話2025
nrinetcom
PRO
4
780
わたしがEMとして入社した「最初の100日」の過ごし方 / EMConfJp2025
daiksy
14
5.1k
1行のコードから社会課題の解決へ: EMの探究、事業・技術・組織を紡ぐ実践知 / EM Conf 2025
9ma3r
11
3.9k
JavaにおけるNull非許容性
skrb
2
2.6k
AWSを活用したIoTにおけるセキュリティ対策のご紹介
kwskyk
0
350
Visualize, Visualize, Visualize and rclone
tomoaki0705
9
83k
大規模アジャイルフレームワークから学ぶエンジニアマネジメントの本質
staka121
PRO
3
1.2k
株式会社Awarefy(アウェアファイ)会社説明資料 / Awarefy-Company-Deck
awarefy
3
11k
急成長する企業で作った、エンジニアが輝ける制度/ 20250227 Rinto Ikenoue
shift_evolve
0
130
Featured
See All Featured
Building Adaptive Systems
keathley
40
2.4k
Designing on Purpose - Digital PM Summit 2013
jponch
117
7.1k
Improving Core Web Vitals using Speculation Rules API
sergeychernyshev
10
510
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
33
2.8k
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
330
21k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
47
5.2k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
233
17k
Building Applications with DynamoDB
mza
93
6.2k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
100
18k
The Invisible Side of Design
smashingmag
299
50k
Bash Introduction
62gerente
611
210k
Bootstrapping a Software Product
garrettdimon
PRO
306
110k
Transcript
தࠃํDBษڧձ in ԭೄ LT ΞΠύʔୂ
ࣗݾհ
ࣗݾհ • ΞΠύʔୂ(ࠓ 29) • ͪΎΒσʔλגࣜձࣾ • PyData.OkinawaڞಉΦʔΨφΠβʔ • Python͖Ͱ͕͢SQLΫιࡶڕͰ͢
ࠓ͢͜ͱ
BigQueryͰML
υΩϡϝϯτݟʹߦ͘
υΩϡϝϯτݟʹߦ͘
͔̎ͭ͠ͳ͍(´ɾωɾʆ)
͔̎ͭ͠ͳ͍ ʢेͬͪΌे͚ͩͲʣ Ϟνϕʔγϣϯ͕Լ͕ͬͨ
վΊͯ ࠓ͢͜ͱ
BigQueryͰ ۚΛ༹͔͞ͳ͍ςΫχοΫ
ʮBigQueryʯͰάάΔ
https://qiita.com/itkr/items/745d54c781badc148bb9 BigQuery ා͍
https://twitter.com/icoxfog417/status/821576129223872513 ΈΜͳ BigQuery ͕ා͍
https://twitter.com/icoxfog417/status/821576129223872513 ΈΜͳ BigQuery ͕ා͍
ڪාΛࠀ͍ͨ͠
ڪාΛࠀ͍ͨ͠ https://www.cocolabo.me/kyouhu1mechanism/
ڪාΛࠀ͍ͨ͠ https://www.cocolabo.me/kyouhu1mechanism/
ڪාΛࠀ͍ͨ͠ https://www.cocolabo.me/kyouhu1mechanism/
ڪාΛࠀ͍ͨ͠ • ԿʹڪΕ͍ͯΔͷ͔ ˠ Ϋϥυഁ࢈ • Ͳ͏ͬͨΒࠀͰ͖Δͷ͔ ˠ ֹۚΛݟੵΓ͍ͨ ˠ
ഁ࢈͠ͳ͍Α͏ɺదͳ͍ํ͕Ͱ͖Ε
BigQueryͷྉۚΛΔ
BigQueryͷྉۚΛΔ • ओʹ̎ͭʢ౦ژ asia-northeast1Ͱհʣ • ετϨʔδྉۚ • σʔλૢ࡞ྉۚ
BigQueryͷྉۚΛΔ • ετϨʔδྉۚ ྉۚ ৄࡉ ΞΫςΟϒ (# ຖ݄(#·Ͱແྉ ظอଘ (#
ຖ݄(#·Ͱແྉ ※ΞΫςΟϒ ŋŋŋ աڈ90ؒͰมߋ͞Εͨσʔλʹର͢Δֹ݄ྉۚ ※ظ ŋŋŋ աڈ90ؒͰมߋ͞Ε͍ͯͳ͍σʔλʹλ͢Δֹ݄ྉۚ
BigQueryͷྉۚΛΔ • ετϨʔδྉۚ • 1ϲ݄100GBͬͯͯɺ$2.23 ! • ͋Βʁ݁ߏ͓ಘͰ
BigQueryͷྉۚΛΔ • σʔλૢ࡞ྉۚ: σʔλͷಡΈࠐΈ • ओʹํ๏͕2ͭ • ᶃGCSʹΞοϓϩʔυͯ͠ → BigQueryอଘ
• BigQueryͱͯ͠ͷྉۚແྉͳΜ͚ͩͲɺGCSͷετϨʔδྉۚͱσʔλ సૹྉ͕͔͔ۚΔ • ᶄετϦʔϛϯάΠϯαʔτ $0.06/GB • ϦΞϧλΠϜੑΛٻΊΔͳΒ͜Ε͚ͩͲɺྲྀΕΔσʔλྔʹҙ • ଞͷํ๏ͱͯ͠ɺBigQueryͷΣϒUIΛ༻͍ͯJSONCSVܗࣜͰΞοϓϩʔυ͢ Δ͜ͱ͕Ͱ͖·͢ → ࢼ͙͢Β͍ͳΒͪ͜ΒΛ࠾༻ͨ͠΄͏͕ྑ͍ʢແྉʣ
BigQueryͷྉۚΛΔ • ΫΤϦྉۚ • $8.55/TBʢຖ݄1TB·Ͱແྉʣ • ΫΤϦ࣮ߦͷྉۚσʔλܕͷαΠζʹԠͯ͡ɺ MB୯Ґͷσʔλॲཧ༰ྔͰܾ·Δ • Τϥʔͱ͔Ωϟογϡͷ݁Ռʹྉۚൃੜ͠ͳ͍
• Ͱ͔͍σʔλʹΫΤϦ͛Δ࣌ҙ
BigQueryͷྉۚΛΔ • ΫΤϦྉۚ • ݄ఆֹͷϓϥϯ͋Δ͕ɺ$48,000/݄ • ೋݟͨ͠ • Կ͏ਓʹ͍҆ΜͩΖ͏ʢଟʣ
গ͠ڪා͕Β͍Ͱ͖ͨ
Ͱ·ͩා͍
BigQueryͷඅ༻ͷ ͑ํΛΔ
• ʮSELECT *ʯېࢭ • ʮLIMITʯʹҙ • ΫΤϦݕূ݁Ռͷ֬ೝ BigQueryͷඅ༻ͷ͑ํΛΔ
• ʮSELECT *ʯېࢭ • BigQueryΧϥϜܕσʔλߏͷͨΊɺʮSELECT *ʯΛར༻͢Δͱ ͯ͢ͷྻΛεΩϟϯ͢ΔͨΊɺͦͷ՝ۚ͞ΕΔ • ඞཁͳྻ͚ͩࢦఆ͍ͯͩ͘͠͞ •
Լʮbigquery-public-data.hacker_news.fullʯͷςʔϒϧͰ֬ೝͨ݁͠Ռ BigQueryͷඅ༻ͷ͑ํΛΔ ɾSELECT * FROM xxx ɾSELECT title FROM xxx
• ʮLIMITʯʹҙ • ʮSELECT * FROM xxxʯͰɺʮLIMIT Nʯ͢Ε͍͍ͷͰɾɾɾɾʁ • !Ͱ͢
• ಡΈऔΔόΠτมΘΒͣɺ݁Ռͷग़ྗߦ੍͕ݶ͞ΕΔ͚ͩ BigQueryͷඅ༻ͷ͑ํΛΔ ɾSELECT * FROM xxx ɾSELECT * FROM xxx LIMIT 100
• ΫΤϦݕূ݁Ռͷ֬ೝ • ࣮ߦ͢ΔSQL νΣοΫͯ͘͠ΕΔ ศརͳԿ͔ • ॲཧ͢ΔόΠτΛ ܭࢉͯ͘͠ΕΔͷͰ ࣮ߦ͢ΔΫΤϦͷྉۚ
Λࣄલʹ֬ೝ͢Δ ͜ͱ͕Ͱ͖Δʢखಈʣ BigQueryͷඅ༻ͷ͑ํΛΔ
BigQueryͷඅ༻ͷ͑ํΛΔ https://cloud.google.com/products/calculator/ ྉۚܭࢉπʔϧ͋Δ
ʢܭࢉʣͩΔ͍
ศརͳPlugin
• BigQuery Mate • BigQueryͷWeb UI͔Βར༻͢Δͱ͖ʹͳʹ ͔ͱศར • ChromeͷΈ ศརͳPlugin
https://chrome.google.com/webstore/detail/bigquery-mate/nepgdloeceldecnoaaegljlichnfognh/related
• ը໘͜Μͳײ͡ ศརͳPlugin
• SQLม͑ͯΈΔͱྉ͕ۚ࠶ܭࢉ͞ΕΔ ศརͳPlugin
ศར!!!
• Ҏલɺ৽͍͠UIʹͳͬͨΜ͚ͩͲɺͦ͜Ͱ ͑ͳͦ͞͏(´ɾωɾʆ) • ΞοϓσʔτΛͭ or GASͰܭࢉεΫϦϓτ Λ༻ҙ͢Δ͔ ͕͔ͩ͠͠…
ࡶײ
• BigQuery͜Θͳ͘ͳ͍Α • ࣄલʹγϡϛϨʔγϣϯͯ͠ྉۚܭࢉ͠Α͏ • ࣮ߦ͢ΔSQL͕εΩϟϯ͢Δσʔλྔ ࣄલʹ֬ೝͨ͠΄͏͕͍͍Α ࡶײ
None