Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
いかにして不足・不整合なくデータ移行したか
Search
momochi29
October 15, 2024
Programming
1
1.4k
いかにして不足・不整合なくデータ移行したか
Hatena Engineer Seminar #31 「少年ジャンプ+」 サーバーサイド編
https://hatena.connpass.com/event/331414/
momochi29
October 15, 2024
Tweet
Share
More Decks by momochi29
See All by momochi29
データのマスタが変わっても継続的に分析したい!
tjmtmmnk
1
300
初めてのデータ移行プロジェクトから得た学び
tjmtmmnk
0
1k
Other Decks in Programming
See All in Programming
PHP 8.4の新機能「プロパティフック」から学ぶオブジェクト指向設計とリスコフの置換原則
kentaroutakeda
2
500
地方に住むエンジニアの残酷な現実とキャリア論
ichimichi
5
1.3k
Cline指示通りに動かない? AI小説エージェントで学ぶ指示書の書き方と自動アップデートの仕組み
kamomeashizawa
1
570
「Cursor/Devin全社導入の理想と現実」のその後
saitoryc
0
150
Systèmes distribués, pour le meilleur et pour le pire - BreizhCamp 2025 - Conférence
slecache
0
100
エンジニア向け採用ピッチ資料
inusan
0
160
datadog dash 2025 LLM observability for reliability and stability
ivry_presentationmaterials
0
110
今ならAmazon ECSのサービス間通信をどう選ぶか / Selection of ECS Interservice Communication 2025
tkikuc
19
3.5k
A2A プロトコルを試してみる
azukiazusa1
2
1.1k
FormFlow - Build Stunning Multistep Forms
yceruto
1
190
Beyond Portability: Live Migration for Evolving WebAssembly Workloads
chikuwait
0
390
GitHub Copilot and GitHub Codespaces Hands-on
ymd65536
1
120
Featured
See All Featured
Designing for humans not robots
tammielis
253
25k
Building Applications with DynamoDB
mza
95
6.5k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
34
3k
Optimizing for Happiness
mojombo
379
70k
Facilitating Awesome Meetings
lara
54
6.4k
How to Ace a Technical Interview
jacobian
277
23k
Producing Creativity
orderedlist
PRO
346
40k
Responsive Adventures: Dirty Tricks From The Dark Corners of Front-End
smashingmag
252
21k
Visualization
eitanlees
146
16k
Intergalactic Javascript Robots from Outer Space
tanoku
271
27k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
PRO
181
53k
Six Lessons from altMBA
skipperchong
28
3.8k
Transcript
いかにして不足・不整合 なくデータ移行したか 発表者: momochi29 1
自己紹介 id:momochi29 • データ移行の検証など • マンガメディア開発の チーム歴は5年程度 • 「ワールドトリガー」 が好き
2
ゴール ユーザから見て移管前後でデータが変わって いない 3
そのためには? 本番移行までに 移行時の直すべきエラー・原因不明のエラー をすべて洗い出し、解消する 4
全体像 5
サイクルの全体像 移行 検証 エラー 修正 完了! エラーがない エラーがある 6
サイクルの全体像 移行 検証 エラー 修正 完了! エラーがない エラーがある 7
サイクルの全体像 移行 検証 エラー 修正 完了! エラーがない エラーがある ここを話します 8
検証 9
検証が必要な背景 期間1 エラーなし 期間2 エラーなし ・・・ データ移行(分割移行) 10
検証が必要な背景 期間1 エラーなし 期間2 エラーなし ・・・ 期間ごとにエラーがないので おそらく不整合はないだろう データ移行(分割移行) 11
検証が必要な背景 期間1 エラーなし 期間2 エラーなし ・・・ 期間ごとにエラーがないので おそらく不整合はないだろう データ移行(分割移行) ユーザ単位ですべてのデータに不整合
がないことは保証できていない 12
検証が必要な背景 期間1 エラーなし 期間2 エラーなし ・・・ 期間ごとにエラーがないので おそらく不整合はないだろう データ移行(分割移行) そもそも…
移行処理にバグがあってデグレしてい るかもしれない 13
検証が必要な背景 1. ユーザ単位ですべてのデータに不整合がない ことを保証できていない 2. 移行処理にバグがあってデグレしているかも しれない 14
何を検証するのか 1. ユーザに対する検証 2. 移行自体に対する検証 15
ユーザに対する検証 • ユーザが持っているデータが移行前後で変化 していないことをユーザごとに検証する 16
ユーザに対する検証 • ズレるとユーザに不利益がある箇所を重点的 に検証する ◦ 例) レンタル期限が一致するか ▪ ズレるとレンタルしていたはずの話が読めなくなったり… 17
移行自体に対する検証 • 移行が仕様通りに実装されているかを検証す る 18
仕様通りに実装されているかの検証 移行元テーブル 移行先テーブル 移行先テーブル ︙ 変換ルールに則って移行 19
移行元テーブル 移行先テーブル 移行先テーブル ︙ 変換ルールに則って移行 単体テストによって ルールに従っている か検証している 仕様通りに実装されているかの検証 20
移行元テーブル 移行先テーブル 移行先テーブル ︙ 変換ルールに則って移行 単体テストによって ルールに従っている か検証している 仕様通りに実装されているかの検証 これで充分?
21
仕様通りに実装されているかの検証 • No • 移行処理に実装漏れがあると、テストが存在 しないので仕様に従っているか確認されない ◦ 移行先観点でのテストになるので漏れやすい 22
仕様通りに実装されているかの検証 移行元テーブル 移行先テーブル 変換ルールに則って移行 移行先テーブルから 移行元テーブルを再現できる か検証する 23
テーブルの再現による検証 • 移行先のテーブルからデータを集めて変換 ルールを適用して移行元のテーブルを作る • これによって移行元との差分がわかり、移行 漏れを無くせる 24
検証失敗時には? • エラーを記録する • 分類しやすいようにフォーマットを統一 25
直す価値のあるエラーを得る • 直す価値のあるエラーとは、直さないと本番 環境でも発生するエラー • 移行元の本番環境のスナップショットを使っ て、移行→検証することで価値のあるエラー を得る 26
検証を動かす • データ移行を動かしているStep Functions + AWS Batchに検証ジョブを追加した ◦ 数百の検証ジョブを並行で動かすことで十分高速に検 証できた
• ただ、リソース上の問題があったのでチュー ニングした 27
検証のチューニング • 移行に利用しているDBのCPU使用率が張り付 いている ◦ → 検証は読み込み専用DBを使う • 検証のタスクがOOM ◦
→ メモリ使用量の上限を引き上げ ◦ → あえてN+1にする 28
エラー修正 29
エラー修正 • エラー数を0にするのがゴール • 多種多様なエラーをうまくハンドリングする には? 30
エラーフォーマットの統一 • ジョブの種類 • エラーメッセージ • エラーコード ◦ レコードが存在しない、一致しないの2種類 •
デバッグのために必要な情報 ◦ エラーになった場所、レコードのID 31
CloudWatch Logs Insights • ジョブの種類、エラーごとに first_seen, last_seen, エラー総数を出す 32
CloudWatch ダッシュボード • Logs Insightsで作ったクエリの実行結果を集 約できる • ここだけ見ればオッケーにできる ◦ 移行・検証のエラーに対するクエリ結果と、その他に
必要な情報をウィジェットとして追加した 33
CloudWatch ダッシュボード 34
ゴールが数値で見える嬉しさ • 移行作業は長いトンネルを歩く感覚がある • エラー数が減るとゴールに近付いていること を実感できてよかった 35
修正サイクルを回す エラー 修正 移行 ダッシュ ボード 確認 エラーがある 完了! エラーがない
36
修正サイクルを回す エラー 修正 移行 ダッシュ ボード 確認 新規のエラー: first_seenから判断 既存のエラーが直っていない:
last_seenから判断 完了! エラーがない 37
あとはエラーがなくなる までひたすらやる 38
結果 • 本番環境での移行で未知のエラーに遭遇せず に移行を完了することができた ◦ 本番同等のデータを使ってエラーが無くなるまでサイ クルを回した賜物 • データ移行に起因する大きな問題はなかった 39
まとめ • ユーザに対する検証と移行自体に対する検証 の2面からの検証によって、不足・不整合なく 移行できた • 移行元の本番環境のデータを使って修正サイ クルを回すことで未知のエラーに遭遇するこ となく移行できた 40