Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Григорий Смолкин-Управление резервным копирован...
Search
Ozon Tech
February 28, 2022
Technology
0
5k
Григорий Смолкин-Управление резервным копированием PostgreSQL
Ozon Tech
February 28, 2022
Tweet
Share
More Decks by Ozon Tech
See All by Ozon Tech
Сергей Горшенин, «Конвертация данных Ozon»
ozontech
0
16
Юрий Гуреев, «Интеграция 1С с внешними системами. Проблемы и их решения»
ozontech
0
37
Артём Нургалиев, «Кэш на кэш: как ускоряли автобиддеры»
ozontech
0
14
Анна Мария Попова (Х5 Tech) – Фантастический техпис: может ли опыт создания художественных книг помочь в написании документации
ozontech
0
170
Александр Мачулин (Gramax) – Справочник фантастических тварей из Docs as Code
ozontech
0
120
Мария Смирнова – Дзен и искусство работы с документацией: как использовать принципы буддизма в работе техписа
ozontech
0
110
Сергей Кузнецов – «Эксперименты с нейросетями в рекомендациях»
ozontech
0
110
Артём Нургалиев – «MLOps, автоматизированное обучение и доставка моделей»
ozontech
0
98
Артём Панин – «Автоматическое управление рекламой в Ozon»
ozontech
0
110
Other Decks in Technology
See All in Technology
静的解析で実現した効率的なi18n対応の仕組みづくり
minako__ph
2
270
マルチモーダル / AI Agent / LLMOps 3つの技術トレンドで理解するLLMの今後の展望
hirosatogamo
38
13k
心が動くエンジニアリング ── 私が夢中になる理由
16bitidol
0
110
OCI Network Firewall 概要
oracle4engineer
PRO
0
4.2k
安心してください、日本語使えますよ―Ubuntu日本語Remix提供休止に寄せて― 2024-11-17
nobutomurata
1
1k
Flutterによる 効率的なAndroid・iOS・Webアプリケーション開発の事例
recruitengineers
PRO
0
130
RubyのWebアプリケーションを50倍速くする方法 / How to Make a Ruby Web Application 50 Times Faster
hogelog
3
950
初心者向けAWS Securityの勉強会mini Security-JAWSを9ヶ月ぐらい実施してきての近況
cmusudakeisuke
0
140
オープンソースAIとは何か? --「オープンソースAIの定義 v1.0」詳細解説
shujisado
10
1.4k
Security-JAWS【第35回】勉強会クラウドにおけるマルウェアやコンテンツ改ざんへの対策
4su_para
0
190
SDN の Hype Cycle を一通り経験してみて思うこと / Going through the Hype Cycle of SDN
mshindo
2
200
Storybook との上手な向き合い方を考える
re_taro
5
1.8k
Featured
See All Featured
Save Time (by Creating Custom Rails Generators)
garrettdimon
PRO
27
840
How STYLIGHT went responsive
nonsquared
95
5.2k
Dealing with People You Can't Stand - Big Design 2015
cassininazir
364
24k
Become a Pro
speakerdeck
PRO
25
5k
The Power of CSS Pseudo Elements
geoffreycrofte
73
5.3k
The Art of Delivering Value - GDevCon NA Keynote
reverentgeek
8
900
Documentation Writing (for coders)
carmenintech
65
4.4k
A Philosophy of Restraint
colly
203
16k
Creating an realtime collaboration tool: Agile Flush - .NET Oxford
marcduiker
25
1.8k
Why You Should Never Use an ORM
jnunemaker
PRO
54
9.1k
Embracing the Ebb and Flow
colly
84
4.5k
Designing for humans not robots
tammielis
250
25k
Transcript
Управление резервным копированием PostgreSQL Смолкин Григорий ведущий инженер инфраструктуры
Функции резервного копирования 2 1. Disaster recovery 2. Data recovery
3. Staging provision 4. Archive standby provision 5. SOX compliance
Динамика production
Production растет 2021 г. 4 35 61 163 201 0
50 100 150 200 250 Jan Jul Oct Feb Суммарный размер всех БД в TB (masters only)
Production растет 2021 г. 5 221 547 706 1300 0
200 400 600 800 1000 1200 1400 Jan Jul Oct Feb Суммарная скорость генерации WAL MB/s
Архитектура (total size of incremental backups for 14d / total
size of full backups for 14d) 6 ― Ansible ― pg_probackup ― wal-g + pg_mediator (python-обвязка) ― x3 железный сервер для pg_probackup (73TB) ― x3 Ceph кластер для wal-g
pg_mediator (total size of incremental backups for 14d / total
size of full backups for 14d) 7 ― backoff ― таймауты Ceph и wal-g ― DC-affinity ― борьба с archive lag ― борьба с пропусками в таймлайне при failover ― Быстрый shutdown
Восстановление (total size of incremental backups for 14d / total
size of full backups for 14d) 8 ― pg_probackup доставляет файлы БД ― wal-g доставляет WAL
None
Текущая схема бэкапирования 10 текст текст DC3 PG DC2 PG
DC1 PG ceph2 ceph3 ceph1 PBK PBK
В планах 11 1. Уход с ansible на hyper-dog 2.
Развитие архитектуры резервного копирования в рамках концепции PostgreSQL-as-Service 3. Поддержка S3 в pg_probackup
Смолкин Григорий Спасибо за внимание!
[email protected]
,
[email protected]