Serverlessで構成するEvent Driven Data Platform

Transcript

1. Serverlessで構成する Event Driven Data Platform SREマネージャー 前田
2. 自己紹介 • 前田 和樹（　 @kzk_maeda ） • SRE Manager at Progate • ギターやベースなど弾きます • 週末は2人の子どもに忙殺されてます
3. 1. About Company 2. About System 3. About Data Platform 4. About Future 5. Closing Index
4. About Company 何をしている会社？
5. オンラインプログラミングサービス 初心者でも学びやすい学習環境をご用意。 日本語版と英語版を展開しています。 イラスト中心のスライドで学ぶ プログラムを書いて学ぶ 紙の本よりも直感的で、動画よりも学びやすい「スライド学習」を採用しました。 自分のペースで学習できること、復習しやすいことが強みです。 実際にプロダクトを作りながら学ぶから、使えるスキルが身につきます。 ブラウザ上でコードを書いて結果も確認。すぐにプログラミングが実践できます。 | About Our Service 概要
6. スライド 演習 スライド 演習 達成 達成
7. 累計ユーザー数推移 　 日本 over 1,450,000人 （2020/12/01 時点） 単位：人
8. 累計ユーザー数推移 　 インド （2020/12/01 時点） over 200,000人 単位：人
9. 累計ユーザー数推移 　 インドネシア （2020/12/01 時点） over 70,000人 単位：人
10. About System どうやって創っている？
11. Architecture概要
12. 複数のAWSアカウントをOrganizationで管理 - Production / Staging / Base（認証用） Architecture概要
13. 基本のWeb機能は ALB + EC2(ASG) + Redis + Aurora(MySQL） Github + CircleCIでRolling Update Architecture概要
14. ユーザーのコード実行環境として EC2でホストしたDocker Swarmクラスタを構成 - chatbotからcluster毎B/G Deploy可能 Architecture概要
15. ProductionのSwarm Clusterは複数Regionに分散 Architecture概要
16. Application周りのログはfluentd+KDF -> S3 監視はNewRelicに統合中 Architecture概要
17. 使用技術 • Frontend ◦ React / React Native • Server-Side ◦ Ruby on Rails / Node.js • Infrastructure ◦ AWS（ALB, EC2, Fargate, RDS, ElastiCache, Lambda, APIGW, KDF, etc...） ◦ Terraform / Serverless Framework ◦ Docker / Docker Swarm • Other ◦ Github / DockerHub / Circle CI / Slack / Asana / DocBase
18. About Data Platform データ基盤について
19. 対象とするデータ 更新頻度 分析活用 埋蔵金 • 活用用途を見出せてないデータ Master Data • Users • Lessons • Languages Transactional Data • UserCodes • LessonHistories • Logs
20. データ要件 • 1日ごとの全件同期 • センシティブなデータの取り扱い ◦ 特定データには認可された人のみがアクセス可能な状態 • BI（redash）からクエリ
21. Data Platform Architecture
22. Data Platform Architecture RDS上のデータを DataCatalog化する
23. Data Platform Architecture • RDS SnapshotのS3Export機能を活用 ◦ parquet形式のファイルをS3に定期Upload可能 ◦ RDSに対してread負荷がかからない • Data PipelineのレイヤはDatalake的な思想で構成 ◦ 収集→蓄積→変換→分析 ◦ 各レイヤをイベントドリブンで接続 • DataCatalogをセキュリティレベル別に分離 ◦ Sensitiveなデータとそうではないデータ ◦ 同一DataSourceからPipeline上で複数のCatalogを生成
24. Data Platform Architecture 収集 蓄積 変換 分析 DataPipelineをDatalake思想で構成 収集→蓄積→変換→分析 各Layerはイベントドリブン（SNS/SQS + Lambda）で接続
25. Data Platform Architecture Event RDSのSnapshot関連のイベントトリガー は、RDS Event Subscription→SNS SNSのSubscriberとしてLambdaが起動 Event Event
26. Data Platform Architecture Sensitive Data Normal Data Sensitive DataのLayerとNormal Dataの Layerで構成 ここもイベント接続
27. 詰まった点１ RDS Event Subscriptionの仕様
28. なにが起きたか • Snapshotの作成とSnapshot Exportが同じEvent SubscriptionのEvent Categoryに属するので、どちらも同じSNS TopicにSubscribeされる • 別のEventとして単一責務のLambdaをSubscriberに設定する予定だった が、それぞれのEventを同一Lambda内で処理する必要性が
29. なにが起きたか 同じEvent Subscriptionから 通知される
30. どうしたか • 後続のLambdaを同一Functionとし、SNSのMessageによって実行する処理 を分岐 ◦ snapshot created イベントに対しては snapshot export を実施 ◦ export task completed イベントに対しては後続の GlueJobをKick • 管理上関数を分けたかったが、全体をterraformで管理することとResource Groupを有効にすることで許容
31. 詰まった点２ Snapshot Exportの仕様
32. なにが起きたか • RDS Snapshot ExportタスクによってSnapshotがS3にExportされる際、 Export Task名のPrefix配下にSnapshotが配置される • 後続処理でExportされたSnapshotデータを特定する際に、Export Task名と して何が指定されたかを正確に把握する必要がある ◦ yyyy-mm-ddなどで値を決めると、リトライが発生した際のハンドリングが面倒
33. なにが起きたか ここで決めたTask名を こっちで正確に知る必要がある
34. どうしたか • Export Task実行時に決めた名前をSQSにメッセージング • 後続のLambdaの中でSQSにキューイングされたメッセージから設定された Export Task名を取得し、S3上のPathを把握 • GlueJob / Crawlerの実行を容易にするため、/latest 配下にcopy
35. どうしたか Task名をQueuing SQSからTask名を取得→/latestにcopy
36. 詰まった点３ Data Pipelineのモニタリング
37. なにが起きたか • StepFunction管理にしなかったので、Pipelineのどこまで実行されているのか などのモニタリングが困難 • X-Rayでかっこよくいけるやろと思ってたけど、机上で調べてる限りやりたいこ との実現は難しそう ※理想
38. どうしたか • PipelineのStep毎にDynamoDBに状況を書き込むようにした ◦ Export Task名をPrimary Keyとして利用 • エラーで落ちた場合はエラーメッセージもDDBに格納されるので、どこまで実 行されてなぜ落ちたのかの大体の情報はDDBで完結 Step毎に書き込み エラー時はメッセージも
39. その他の知見 • 大まかなアーキテクチャはAWSのAsk an expertを活用してレビューしてもら えた。ライトに相談できる場としてすごく助かる。 • AWSから毎日のようにアナウンスされる便利機能アップデートは銀の弾丸で はない。自分たちのシステムに落とし込む上では考えたり実装したりするポイ ントがたくさん出てくる • AWSサービスのアイコンを並べて設計した気になってるおじさんにならないよ うに気を付ける
40. About Future 今後の展望
41. データの更なる活用 更新頻度 分析活用 埋蔵金 • 活用用途を見出せてないデータ Master Data Transactional Data 活用ラインの 拡大 多様なトランザクショ ンデータ取得
42. データの更なる活用 データ活用の 多面化・組織化
43. 新しい技術の活用 • 先日リリースされたマネージドAirFlow（MWAA）で後半のジョブネットはワーク フロー化できるかもしれないので、折を見て検証したい • 今日発表された Glue Elastic View との親和性など？？ ◦ 作ってるやつほぼ捨てられる・・・・？？？
44. Closing 最後に
45. 結論 • RDSのsnapshot export機能を使えば、Master DataをDatalakeに簡単に格 納することが可能 • だと思っていた時期がありました。 • イベントドリブンなパイプラインのモニタリングはX-Ray • だと思っていた時期がありました（要追加検証）。 • マネージドサービスを実要件での活用に落とし込んで行くには、結局はエンジ ニアリングが必要。 • AWS支援体制は積極的に活用していくのがいい
46. エンジニア積極採用中 • Progateではエンジニアを積極採用しています • プログラミング教育事業に興味がある、グローバルサービスに携わりたい、な ど、気になるポイントあれば是非ご連絡ください • 詳しくは採用サイトへ ◦ https://prog-8.com/about/careers
47. TechBlogはじめました • Progate TechBlogを開設しました • Advent Calendar期間を活用し、積極的に発信していきます • 詳しくはBlog ◦ https://tech.prog-8.com/
48. ご清聴ありがとうございました