Slide 28
Slide 28 text
- TSVをS3に置いて、それをAuroraにインポートする
- 参考:Amazon S3 バケットのテキストファイルから Amazon Aurora MySQL DB クラスターへの
データのロード
- 問題が色々起こって大変だった
- TSVとDBのレコードでPKが重複したときにtable lockされてアプリ側がエラー
- LOAD DATAがtransactionをずっと掴んでいるせい
- 重複の可能性がある期間のデータはRubyを経由させた
- データに想定していない重複や不足が見つかった
- 後から見つかったので何度かmigrationをやり直した
- 1ヶ月くらいかけた
データmigration