Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
NextEngineクラウドジャーニー ~メールシステムのクラウド移行~ / AWS Dev Day Online Japan 2020
Search
na_it_o
October 20, 2020
Technology
0
100
NextEngineクラウドジャーニー ~メールシステムのクラウド移行~ / AWS Dev Day Online Japan 2020
AWS Dev Day Online Japan 2020で発表したスライド
https://aws.amazon.com/jp/about-aws/events/2020/devday/
na_it_o
October 20, 2020
Tweet
Share
More Decks by na_it_o
See All by na_it_o
PHPコンテナのマルチステージビルドとキャッシュ戦略 / PHPerKaigi 2022
na_it_o
1
1.6k
Other Decks in Technology
See All in Technology
ここが嬉しいABAC ここが辛いよABAC #再解説+補足編
masahirokawahara
0
220
コードを書く隙間を見つけて生きていく技術/Findy 思考の現在地
fujiwara3
24
5.1k
「手動オペレーションに定評がある」と言われた私が心がけていること / phpcon_odawara2024
blue_goheimochi
2
320
シン・Kafka / shin-kafka
oracle4engineer
PRO
7
2.7k
普段有償でサポート業務をしているCSAが技術知見を無料で公開する理由
07jp27
1
640
転移学習とドメイン適応の基礎
kmatsui
2
570
強みを伸ばすキャリアデザイン
yug1224
0
200
疲弊しない!AWSセキュリティ統制の考え方 #devio_osakaday1
masahirokawahara
6
5.9k
オーナーシップを持つ領域を明確にする
konifar
11
2.5k
日本におけるデータエンジニアリングのこれまでとこれから
foursue
11
2.3k
DevOpsDays History and my DevOps story
kawaguti
PRO
8
1.6k
開発生産性向上サービスを作るFindyが自分たちで開発生産性を爆上げした組織づくりの歩み / Findy's path to boosting its own development productivity 2024-04-17
ma3tk
3
330
Featured
See All Featured
Visualization
eitanlees
135
14k
Into the Great Unknown - MozCon
thekraken
10
980
Designing for humans not robots
tammielis
247
25k
Reflections from 52 weeks, 52 projects
jeffersonlam
344
19k
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
321
20k
How STYLIGHT went responsive
nonsquared
92
4.8k
Fireside Chat
paigeccino
20
2.6k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
9
8.3k
Agile that works and the tools we love
rasmusluckow
324
20k
Building a Scalable Design System with Sketch
lauravandoore
455
32k
Typedesign – Prime Four
hannesfritz
36
2.1k
Building Applications with DynamoDB
mza
88
5.6k
Transcript
NextEngineクラウドジャーニー ~メールシステムのクラウド移行~ Hamee株式会社 SRE部 楠 洋平
内容 話すこと • SESの受信機能を使った弊社事例 • 受信メール処理のアーキテクチャ 話さないこと • SESの送信機能を使った事例 •
各ソリューションの詳細仕様 • 実運用の苦労 2 -MTAの管理にうんざりしている皆さんに捧ぐ-
Hamee株式会社 Mission クリエイティブ魂に火をつける コマース事業 スマホアクセサリー通販etc. プラットフォーム事業 NextEngine運営 本社:小田原 会社概要 3
スピーカー 楠 洋平 SRE部 NextEngineのSRE • インフラ構築・運用など Terraform/Docker/Golang 4
サービス概要 ECオーナー向け 管理サービス (プラットフォーム) 5
Set システム概要 オンプレミス セットで分かれている (20〜30セット) • 拡張の単位 • 複数のユーザ企業 (マルチテナント)
• Webゲームのワールドのような概念 セット内構成 • Webサーバ × 4台 o Webアプリケーション o 受信メール処理 o バッチ • DB・ストレージサーバ × 2台 o データベース o 共有ファイル 6 Load Balancer Storage Web PHP + Apache MySQL + GlusterFS Set ・・・
クラウド化PJ 固定リソースの確保、調達・スケールの限界 (システムの老朽化) →セットの概念をなくした スケール可能な構成でのクラウド化 7
クラウドジャーニー 目指す先 より良い開発・運用環境 フェーズ1 2020年2月〜 まずはクラウド化 (6つ9つの課題) Webアプリケーションのコンテナ化 極力既存コードに手を加えない
フェーズ2以降 2020年12月〜 本格的に最適化 8 6つの課題 (→ 9つの課題) 1. 受信メール 2. バッチ 3. デプロイ 4. 共有ファイル 5. ログ 6. DB 7. セッション 8. キャッシュ 9. 移設
受注情報のメールを受けて在庫連携 受信メール処理 NextEngine -受信メール処理- 9 メール受信 メール取込 引当 在庫更新 起票
受注完了 メール送信
sendmailでaliasを経由してphpスクリプト起動 受信メール・アーキテクチャ -BEFORE- 10 /etc/aliases 店舗毎に事前発行済み sendmail 受信メール処理 .php
[email protected]
[email protected]
Amazon 楽天 ユーザ企業 ne-001 : | “受信メール処理 .php 001” ne-002 : | “受信メール処理 .php 002” ローカルに保存
現状の課題 • Webサーバはコンテナ化しフレキシブルにスケールする予 定。一緒に扱いたくない • というか、MTAの管理はうんざり 11
受信メール・アーキテクチャ -AFTER- 12 DynamoDBでは各メールごとに「処理がどこまで進んだか(どの Lambda・タスクが実行されたか)」「既存コードの実行時に渡す値」「処理結果」を管理 全体像 Amazon DynamoDB Amazon SES
Amazon SNS Amazon SQS Amazon S3 Amazon ECS 受信メール処理 .php ステータス更新 バケット移動
ap-northeast-1 us-east-1 受信メール・アーキテクチャ -AFTER- 13 Rule Sets SES topic 保管ルール
S3 Action with SNS topic ステータス更新ルール Lambda Action SQS subscription Lambda subscription SQS Event Trigger SESで受信可能なのは米国東部(バージニア北部)米国西部 (オレゴン)、欧州 (アイルランド)のみ →SNS、Lambda、暗号化のためのKMSは同一リージョンに存在しなければならない SNSからのキューイングは標準キューのみ( FIFOキュー非対応) →メッセージの重複の可能性 受信 Queue Amazon SNS Amazon SES Amazon SQS AWS Lambda AWS Lambda
受信メール・アーキテクチャ -AFTER- 14 SQS Event Trigger Dead Letter Queue 既存コード
本文パース DBアクセス Wrapper S3オブジェクト展開 DynamoDB更新 既存コード呼び出し RunTask APIのレスポンスでErrorはECSサービスへのリクエスト成否のみ。 Errorが含まれなくてもタスクの起動に失敗する場合がある。レスポンス内の別属 性 Failure が空でないことの確認が必要。 SQS Event TriggerはLambdaの正常終了時にメッセージを削除する。削除したくない際はハンドラーで Errorを返す。 ※重複排除 処理 RunTask Amazon SQS AWS Lambda Amazon ECS Amazon S3 取得 受信メール処理 .php
受信メール・アーキテクチャ -AFTER- 15 未処理 成功 失敗 リトライ 保管 処理状況確認 バケット移動
AWS Lambda Amazon CloudWatch Amazon DynamoDB Amazon S3
受信メール・アーキテクチャ -AFTER- 16 リトライ リトライ 存在確認 情報取得 キューイング Amazon CloudWatch
AWS Lambda Amazon S3 Amazon DynamoDB Amazon SQS
AWS Account - 1 リソース管理・デプロイ方法 17 Git Terraform Role (Manage
all resources) AWS Account - 2 Terraform Role (Manage all resources) Terraform files AWSリソース Atlantis (Terraform) PR Webhook assume role AWS Fargate ※Atlantis : TerraformをPRベースでワークフロー化するツール - https://www.runatlantis.io/
CI リソース管理・デプロイ方法 18 Git Application code Dockerfile Git Task Definition
Service test build push merge request CI register deploy ECSタスク Webアプリタスク・サービス メール処理タスク PR, Merge Webhook Webhook PR Merge Amazon ECR Amazon ECS ※ecspresso : ECSのデプロイツール - https://github.com/kayac/ecspresso ecspresso (deploy tool)
リソース管理・デプロイ方法 19 Git Terraform files CI Git Application code CreateFunction
API Input test build deploy Lambda Trigger・Role Function PR PR, Merge Webhook Atlantis (Terraform) Webhook lambroll (deploy tool) AWS Fargate AWS Lambda ※lambroll : Lambdaのデプロイツール - https://github.com/fujiwara/lambroll
ポイント • マネージドサービス利用でMTA管理から解放! • ローカルファイル回避 o コンテンツ > S3、キュー >
SQS • 非同期処理、冪等性担保 • デプロイ自動化 o まだ試行錯誤中 ▪ リポジトリ構成、ブランチ戦略 ▪ Credentials管理 ▪ デプロイツール 20
NextEngine -送信メール処理- NextEngineがユーザ企業から商品購入者へのメールを代行 21
送信メール -ソリューション選定- SES バウンス管理などレピュテーションコントロールが難しい アカウント単位で止まると全ユーザ企業ストップ SendGrid(他社メール配信サービス) ★採択 サブアカウント単位での管理が可能 22
プロジェクト状況 • 本番稼働に向けテスト中 • AWS ソリューションアーキテクトの方に都度 レビュー、質問対応等のご支援いただきながら ブラッシュアップ 23
まとめ • 受信メール処理のアーキテクチャ紹介 o ローカルファイル ▪ コンテンツ > S3、キュー >
SQS o 非同期処理、冪等性担保とか • デプロイ o 自動化 24
We are hiring. • 採用ページ https://recruit.hamee.co.jp/ • 『小田原手当』 • 『いざ!小田原』
25