Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Applibotデータ分析基盤の刷新 / Applibot
Search
CyberAgent
PRO
February 22, 2019
Technology
2
730
Applibotデータ分析基盤の刷新 / Applibot
サイバーエージェントの技術者(エンジニア・クリエイター)向けカンファレンス『CA BASE CAMP 2019』
Applibotデータ分析基盤の刷新
小川 詩織 伊藤 皓程
CyberAgent
PRO
February 22, 2019
Tweet
Share
More Decks by CyberAgent
See All by CyberAgent
2025年度 生成AI 実践編
cyberagentdevelopers
PRO
4
330
LLMを用いたメタデータベースレコメンド検証
cyberagentdevelopers
PRO
6
1.9k
CodeAgentとMCPで実現するデータ分析エージェント
cyberagentdevelopers
PRO
1
350
SQL Agentによるタップルのデータ利活用促進
cyberagentdevelopers
PRO
1
510
NAB Show 2025 動画技術関連レポート / NAB Show 2025 Report
cyberagentdevelopers
PRO
1
470
【2025年度新卒技術研修】100分で学ぶ サイバーエージェントのデータベース 活用事例とMySQLパフォーマンス調査
cyberagentdevelopers
PRO
8
11k
【CA.ai #1】未来を切り拓くAIエージェントの可能性
cyberagentdevelopers
PRO
4
280
【CA.ai #1】MCP世界への招待:AIエンジニアが創る次世代エージェント連携の世界
cyberagentdevelopers
PRO
2
260
【CA.ai #1】ABEMA のコンテンツ制作を最適化! 生成 AI × クラウド映像編集システム
cyberagentdevelopers
PRO
0
240
Other Decks in Technology
See All in Technology
Unlocking the Power of AI Agents with LINE Bot MCP Server
linedevth
0
120
テストを軸にした生き残り術
kworkdev
PRO
0
220
要件定義・デザインフェーズでもAIを活用して、コミュニケーションの密度を高める
kazukihayase
0
120
LLM時代のパフォーマンスチューニング:MongoDB運用で試したコンテキスト活用の工夫
ishikawa_pro
0
170
フルカイテン株式会社 エンジニア向け採用資料
fullkaiten
0
8.8k
Snowflake Intelligenceにはこうやって立ち向かう!クラシルが考えるAI Readyなデータ基盤と活用のためのDataOps
gappy50
0
280
サラリーマンの小遣いで作るtoCサービス - Cloudflare Workersでスケールする開発戦略
shinaps
2
470
AIエージェント開発用SDKとローカルLLMをLINE Botと組み合わせてみた / LINEを使ったLT大会 #14
you
PRO
0
130
Snowflake×dbtを用いたテレシーのデータ基盤のこれまでとこれから
sagara
0
120
IoT x エッジAI - リアルタイ ムAI活用のPoCを今すぐ始め る方法 -
niizawat
0
120
バイブスに「型」を!Kent Beckに学ぶ、AI時代のテスト駆動開発
amixedcolor
2
590
Claude Code でアプリ開発をオートパイロットにするためのTips集 Zennの場合 / Claude Code Tips in Zenn
wadayusuke
5
1.8k
Featured
See All Featured
Navigating Team Friction
lara
189
15k
The Power of CSS Pseudo Elements
geoffreycrofte
77
6k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
113
20k
Product Roadmaps are Hard
iamctodd
PRO
54
11k
Six Lessons from altMBA
skipperchong
28
4k
Docker and Python
trallard
46
3.6k
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
194
16k
Why You Should Never Use an ORM
jnunemaker
PRO
59
9.5k
How to Ace a Technical Interview
jacobian
279
23k
The Illustrated Children's Guide to Kubernetes
chrisshort
48
50k
Designing for humans not robots
tammielis
253
25k
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
139
34k
Transcript
Applibot /
1.')! 2. (" 3.(&*+ 4.& 5.& %
6.$#
48 MF / Shiori Ogawa • - $.".# •
- (6H: .+.( - ED)+J? etc. … • - 2015.04 gloops - Ameba/GREE/FP Web(&,31>5 (K<!-) - /L0 - 2017.08 - 2017.08 2@!-,!-*.%.31&,, - 2018.03; =I(A.R.T. G7 /L=IB9 - 2018.10; &,'!AC'"
# &" / Kotei Ito • -
• - • - 2015.04 QualiArts - () - - 2017 AJA - AJA SSP - 2019 - A.R.T.%$!
6fNc") D.I.V.E. • (Data/Infrastructure/Value/Elevation) 6fNc6f<]IBb8 ! & •
GV2M • Q.35g`Nc EIJ7 Nci;/4KY@C1M- RPEI8X;NcDOh2?T ;W',#SA ^9 ;Nc[^= 1 [d?T Q.115g`Nc HA F: #+(-% a_Ue Zj*-$L> g`',#\38X0
!" #B • ## &;$ 96#B08% /; • !$ 7.(5
/;2<*A:4 • $ @,)>=+'3-1? " #
&R*"@) 6;AJ N:5Q /8 -(=F 1S E< 0CN: OD>B M@
$3H5 #! OD*1S 6;?+ OD% 7, ' ) KPI>B L;G9 2P.I>B 4K OD>B
… • K%"W2`_ • ;ZPO)74J6V9X51 • < CAF<
51 • S)/4LBT"( • ' Y2IQ="( • #&0:,+ :U\3L> • AF*]4LN @ DG • .R/?E • M^!$8-[H etc. ………
…
*3( /+ • :HF7 !!#'-2 $, ". %
"0)4 &1 & 68<2 5 ;�#-.3… *% 1'!($G $"/)2 … @A,+E?92 … =C2 D4B>
4I @5_1 • 01-BE 9> ,.BE
&#BE !,; -4FG= !,7A < ,./2:6= • !,,.2:H /8 -? '0+ -C3J $1D (1% *)"!
3F =7_2 =OJ8 !-/2:UU9;>DF5: D:@ IRB ,'0*)."4 ?@#!0<
$-C8+#+1&(%B56 ."ADE &.Q>G ,3(9# 2Q>G .0*1K @ G 2:<AMP? @ HC 4E/";E/")$6LN&.G %!'(7 +3-3(7C
9b!L\TN • + &- ", $ (!#.
*% .'CD9b P<7C+)1Q8.'Y; WVOJ#>! &(*#[TN=@:MB ! .'C #d` 46FE^>"aX%,cS#Z • )'&- $-/ ($0# G?5 .'Y3" Q8 !_H 2AI45!…U]KLR !!
Applibot8316 • #%)2, !$DWH(Redshift)/' (7# 5(/') •
Redshift !20 5(Redshift !/20 • RedshiftBI"*4& - TableauGeckoBoard .+
*7 #<)Va • 1 '(# % $& UZA1/%*7::.HM
"GB#XI # >R • )* ! !#8,DB \D$/'6=)1;+3b ?! *7C'5=2O&'07%1SF#&(-9= &'07YT 8,.0/.\D API<) ^J;+3# • % +$% "! &'07YT<)8,'5=2[]_K .0/.'=4;E WN!P! #QL O^J<) `@#
/,?D'28- • DB /(6/,&UDBdumpAf$ P<C5*/,Update %@:=aI !idJ% /, 1:M>c%$>RNbE
Z OKApplibot • DB History DB/,\History.17&?D$"[ /, 1:M>c%$ • History?D/,&8)h ?DBB%VHAf $ ;F _#DWH SeT $ ETLYG!^]X`gT $ +0639)%6'7,(4RNJQ LWApplibot
DB
+ History DB ()
.+L?&04, • DWH( ) ;X\.+.+%:#"5JVL?@ZY.+N?()-2 PrestoHive, DremelUE%1) RedshiftBigQuery 7P
CIApplibot Applibot<G[ • DB DB3'.+History.+%L? 65JV.+O "L?RK T • (+DWH) .+%" QJV=$!>W FS/*FS3' /*8$9I.+%H" "MB DAApplibot
=32 B7 logloglogloglog logloglogloglog loglogloglogolo gloglog logloglogloglog logloglogloglog loglogloglogolo gloglog
>@1 ' # ( * , * )$ +" 40!- %* F.O.X. etc… :E +96&) DAGJ<H. F5/I;?1:E(BI) HadoopC:E=8/I:E
' E0B4 logloglogloglog logloglogloglog loglogloglogolo gloglog logloglogloglog logloglogloglog loglogloglogolo
gloglog >A. # $ & ( & %! ' 2,) "& F.O.X. etc… /C5H=:*L 1F-8?9IK M ' 7 G 7G H3+J;@.7G(BI) HadoopD7G <6+J7G
20180424 AWS Black Belt Online Seminar AWS
https://www.slideshare.net/AmazonWebServicesJapan/20180424-aws-black-belt-online-seminar-aws?ref=https://aws.amazon.com/jp/blogs/news/webinar- bb-datalake-2018/
$'.(-6RW • Redshift]g y:H (^Jc85%…) onMf \! aZ(&8 `l>K@ /,on
• aZ(&8 Y pEaZ _" Redshift#ftOX2%3% SortKeyNqH! (7+,Ue! ACG;v ik= • 1+0/,#wrm SF+0859)*4+Flydata#^ … <DETLdIQLz! • P[hVbsj?T/,#B!aZuxH
OEIK • -)S^?PEIK RedshiftFlydata 7@1600HMg -)%C_ &(.g#… • a@/+*UDY dfWD
$ XD8J a@/+*-)%>$# UD0)4\L!$dfB • Redshift-)%V>$#bFFlydata`Ti [RUD%9"h_,236 =]'1(%N" c;A%G# eZ 15:-)QKPI<$ !…
!$.%,9T\ (}t) • RedshiftajT\ • .6=k[)$7esyY@F dS`P')0 | •
Redshift RpO /+AIJ | • n/+HS_eOHg i • w]ZDBB]ZTDQXz • %;)+YhGINB%"< ^NBlM urKv • Ex$*0$Vacuumpb35#7>),:1>& AW • ?C/+fm~7-,V • 2)0/+ {qoUL)0<8>&(4)Flydata c
jX\` () • mX\`RedshiftFlydata1600[d • L9/:/ EJ)4>!$+*tc vL!k.b F
4>Op"ga)++ • NU L#G^ i,F'c' "]H ' • B0 "Sw ;@;@lz uV- • 83.f!se%QT _+(( • R;54"rW { xW- yWG^ • nEJh}KBI6A"?C7G^,F *!, • Redshift!83.sP-,&!YFlydata"q }o rW.I+"7=A D O~ 1<2.h+"M T.Z, |
Redshifti & • D1=8*F23F2kS&<E$Gdj63fRW -,D027'Xq#027G-,D QJ $ Z TZ 63#fR$
• Lrp\ZDB"#o[ • Ua] DWHcn b $ 63'N%^ %lHYo[ • ?27>C-5)2"B1/2OeImP:+;+ ] g$ !(4A9F._M$@F5hVK %Ua`b
• E6O? • )* &T4.G> • -V8AHSWX0I •
2,KPIG>C81F • % F.O.X.(dump# (QDBOK)N# /30I • %HSM<!&P@ • G>,'+"$+B; O? • DGG>9= 7U JLYR:K5
None
ETL
Lambda ""(#event ./16 : *9 =>- !
3;!70 $,)!</'% → 8& 5+42 API
^LpX 7$8,%5tH@ `W ?wPZbsxyCd E:KPI`W\8D_ ! 4+,F.O.X.n1,BGCd +(4bskU#-5qY
! `W:69039+[T# !pX RV O u!eizrSfK → M200QF/> → 10Q+α/> M1/20'.2 → → `W)&7#aPdkU! → ADI; lo<" j → S3]APIqc →=NJ/8hm →=NJ/8hm →/8hmgv+*8
• %#')F@ • )!)"0A/L< • >9%4J2 • RedshiftD! I,
• Athena ()&$6K ( :*%%) • =-%6ECG2 • >91.Glue B3? NM2 (5;H) • 8%0 4J2+7Redshift Spectrum …
>M(6.6-O;G • JV QD LHT5'IY8
LH 5' QD&%2." NC :X)12ETB 9 • KPI SAJ7KPI?!R5' 8=P KPI05*#&/<,4KPI&$2KF(+/ W • BI BI-3 U@QD…
… mail:
[email protected]
Facebook: https://www.facebook.com/100008453594381 Chatwork
mail:
[email protected]
Facebook: https://www.facebook.com/mk.mdrm.cmtr Chatwork …m(_ _)m