マッハバイトのオンプレDBをAmazon Auroraに移行した話 / mach-db-transition-jaws

Slide 1

Slide 1 text

Slide 2

Slide 2 text

Slide 3

Slide 3 text

Slide 4

Slide 4 text

Slide 5

Slide 5 text

Slide 6

Slide 6 text

Slide 7

Slide 7 text

Slide 8

Slide 8 text

Slide 9

Slide 9 text

Slide 10

Slide 10 text

Slide 11

Slide 11 text

Slide 12

Slide 12 text

Slide 13

Slide 13 text

Slide 14

Slide 14 text

Slide 15

Slide 15 text

Slide 16

Slide 16 text

Slide 17

Slide 17 text

Slide 18

Slide 18 text

Slide 19

Slide 19 text

3-2. プロジェクトの流れ ~DMS検証編~ ● DMSでは主キー以外のインデックスや外部キー等は移⾏されない ○ ⾃分で移⾏の各段階でDDLを実⾏してやる必要あり ○ 参考: https://repost.aws/ja/knowledge-center/dms-secondary-objects-target ● スキーマの変更の伴う開発を継続しながら DB移⾏の準備を進めるには、DB移⾏⽤DDLのメンテナンス性が問題に ● 宣⾔的スキーマ管理ツール Ridgepoleを導⼊して対応 ○ https://made.livesense.co.jp/entry/2023/08/21/080000 ○ 移⾏の各段階で必要な分以外をコメントアウトして対応することにした移⾏⽤DDL管理の問題 => Ridgepoleで宣⾔的スキーマ管理 Copyright © Livesense Inc.

Slide 20

Slide 20 text

3-2. プロジェクトの流れ ~DMS検証編~ ● フルロード完了からCDC開始までの間の変更が⽋落してしまうなどの問題が発⽣してしまい、すぐには解決できなそうだったため断念 ● DB移⾏に伴うシステムダウンがどこまで許容できるかビジネス側と確認できていた ○ フルロードでも許容できる時間内に終わるため、フルロードで実施することに CDCは検証を断念‧‧‧ Copyright © Livesense Inc.

Slide 21

Slide 21 text

Slide 22

Slide 22 text

3-3. プロジェクトの流れ ~テスト編~ ● DBのコンテナを変えたユニットテストを並列で実施 ○ オンプレMariaDB互換(既存) ○ Aurora MySQLで使おうとしているバージョン互換(new) ● マッハバイトはレガシーPHPアプリケーション以外はユニットテストがしっかり書かれている ● テストが通れば安⼼感⼤！ユニットテストをAurora MySQLの互換バージョンで実⾏ Copyright © Livesense Inc.

Slide 23

Slide 23 text

Slide 24

Slide 24 text

Slide 25

Slide 25 text

3-3. プロジェクトの流れ ~テスト編~ ● DB移⾏はアプリケーションやSolrのECS化と同時実施 ○ 複雑な⼿順のためなるべくリハーサルで問題を洗い出しておきたい ● Slackに可能な限りログを残すことを意識しながらリハーサルを2回⾏った ○ ログを⾒ながら移⾏の流れのレビューのため ○ ログを⾒て本番実施前に⼿順を確認するため⼊念なリハーサル Copyright © Livesense Inc.

Slide 26

Slide 26 text

Slide 27

Slide 27 text

Slide 28

Slide 28 text

Slide 29

Slide 29 text

Slide 30

Slide 30 text

Slide 31

Slide 31 text

Slide 32

Slide 32 text

4. DB移行を振り返って ● 無停⽌移⾏ができる⽅法を追求しきれなかった‧‧‧ ○ データセンタの解約等の関係で、移⾏プロジェクトに使える期間が限られていたため ○ 及第点のDB移⾏はできたとは思っているが‧‧‧ ● もし無限に時間があったら ○ 案1: CDCが適切に動かなかった原因を追求する ○ 案2: レプリケーションによる別の⽅法を検証 ■ XtraBackupによるダンプ&取り込み & 元のDBからレプリケーション残念だったこと Copyright © Livesense Inc.

Slide 33

Slide 33 text

4. DB移行を振り返って ● SREとアプリケーションエンジニアの協⼒によるパフォーマンス改善 ○ 今まではインフラエンジニアとアプリケーション開発者で距離があった ■ 治安の悪いクエリを直すのではなく、DBを増強して対応しちゃったり‧‧‧ ● AWS移⾏が終わった今がチャンス！ ○ AWS移⾏で役割を超えて関わる機会が増えた ○ 基盤が整ってオブザーバビリティが上がったこれからやりたいこと Copyright © Livesense Inc.