Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Sign up for free
Menu
Search
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Pricing
Search
Sign in
Sign up for free
node.js for millions of images
Search
Ivan Babrou
October 25, 2012
Programming
1.5k
7
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
node.js for millions of images
Ivan Babrou
October 25, 2012
Transcript
35 slides
Хранилище для миллинов картинок на node.js (а почему бы и
да) Wednesday, October 24, 12
Что есть 40+ миллионов пользователей 1.5 миллиона уников в сутки
15 пользовательских фоток на главной 60 пользовательских фоток в ленте 60 килобайт на фото в среднем 10 терабайт данных Wednesday, October 24, 12
Роли Frontend Cache Resizer Backend Wednesday, October 24, 12
Frontend nginx SSL termination Upstream hash Смотрят в интернет Wednesday,
October 24, 12
Cache nginx tmpfs proxy_next_upstream Больше ничего Wednesday, October 24, 12
Resizer nginx image_filter proxy_next_upstream lua Wednesday, October 24, 12
А дальше всё становится плохо. Wednesday, October 24, 12
Особенности 99% времени серверов с данными - IO “Long tail”
problem Невозможно выровнять чтения Попасть в кеш в 3Тб данных непросто Wednesday, October 24, 12
Диски тормозят Память в 100 000 раз быстрее диска, но
диски надёжнее и вместительнее. Wednesday, October 24, 12
Решения nginx хватит (btrfs, reiserfs, *fs) Haystack (facebook) Elliptics (yandex)
Wednesday, October 24, 12
Yeah, well, I'm gonna go build my own theme park,
with blackjack and hookers. In fact, forget the park! Wednesday, October 24, 12
backpack Задумка из Haystack Proof of concept + Wednesday, October
24, 12
Backend node.js redis Файлы по 4Gb Wednesday, October 24, 12
Как это изнутри node.js redis disk: - data_XXX (4Gb) -
metadata_XXX Метаданные всегда в памяти. Для чтения всегда только 1 вызов pread Wednesday, October 24, 12
Redis Очень быстрый (даже слишком) Информация в бинарном виде Было:
/u124/z1dg23.jpg Будет:{file:1}{offset:4}{length:4} Минимальная нагрузка на диск (AOF) Wednesday, October 24, 12
node.js javascript Асинхронная работа Постоянно открытые файлы Постоянное соединение к
redis 1 поток (на самом деле нет) Wednesday, October 24, 12
Потоки (streams) Http запросы и ответы: req, res Data Writer:
req.pipe(writer) Data Reader: reader.pipe(res) Wednesday, October 24, 12
Только ультахардкор Выравнивание чтений (O_DIRECT) Посчитать дешевле +50% к пропускной
способности Более ровный график использования IO Модуль для node.js (aligned-buffer) Wednesday, October 24, 12
Грабли O_DIRECT Записи должны быть выровнены Линус не одобряет (fadvice/madvice)
Повторное чтение не идёт в кеш Wednesday, October 24, 12
Тестирование 40Gb данных (малая часть) 500K файлов Случайное чтение в
50 потоков Без записи Wednesday, October 24, 12
Графики: backpack 0 225 450 675 900 backpack-a backpack-a-dc3 backpack
-a: выровненные чтения -dc3: каждые 5 секунд echo 3 > /proc/sys/vm/drop-cache Wednesday, October 24, 12
Графики: nginx 0 225 450 675 900 nginx nginx-dс nginx-dc3
-a: выровненные чтения -dc: каждые 5 секунд echo 1 > /proc/sys/vm/drop-cache -dc3: каждые 5 секунд echo 3 > /proc/sys/vm/drop-cache Wednesday, October 24, 12
Графики: вместе 0 225 450 675 900 backpack-a-dc3 nginx-dс nginx-dc3
-a: выровненные чтения -dc: каждые 5 секунд echo 1 > /proc/sys/vm/drop-cache -dc3: каждые 5 секунд echo 3 > /proc/sys/vm/drop-cache Wednesday, October 24, 12
Где скачать? Доведём до ума и сделаем Open Source! Wednesday,
October 24, 12
Шардинг Фронтенды: dns round-robin Кеши: upstream hash + хаки Ресайзеры:
выбирай любой Данные: (D)HT - почти как в торрентах Wednesday, October 24, 12
Hash map Хеш: (md5(соль + user_id))[0:2] Начальный хеш: [read], [write]
00: [1,2,3], [1,2,3] (от 00 до 39) 40: [5,6,7], [5,6,7] (от 40 до 80) 80: [8,9,10], [8,9,10] (от 80 до ff) Wednesday, October 24, 12
Почему не уникальный hash на картинку Так вышло К тому
же, мы не хостинг скриншотов Сложнее вычислить все урлы картинок Неравномерное использование ресурсов Wednesday, October 24, 12
Как всем рулить Конфигурация Обработка задач Мониторинг Wednesday, October 24,
12
Конфигурация: Zookeeper Отказоустойчивость до конца Hash table для данных Хранение
данных серверов Задачи Wednesday, October 24, 12
Обработка задач: crons Кроны разбиения стораджа Разбиение Очистка Репликация картинок
Кроны скачивания картинок data data data Wednesday, October 24, 12
Мониторинг: zabbix Мониторининг io (сервера данных) Мониторинг cpu (ресайзеры) Сокеты,
сеть, всё что захотите Wednesday, October 24, 12
Миграция Перелопатить весь код Скачать все картинки Нагреть кеш Докачивать
новые Wednesday, October 24, 12
Как переживать падения Падения будут всегда Убрать точки отказа Спокойно
падать Иметь возможность восстановиться Wednesday, October 24, 12
Вопросы? Иван Бобров http://github.com/bobrik @ibobrik Wednesday, October 24, 12
Wednesday, October 24, 12
More Decks by Ivan Babrou
See All by Ivan Babrou
LXJS 2013: backpack — scalable photo storage
bobrik
2
160
Other Decks in Programming
See All in Programming
Augmenting AI with the Power of Jakarta EE
ivargrimstad
0
380
そのデザイントークン、Flutterでも同じ見た目になりますか?
nakamizu
0
430
protojson における文字化けの扱い
kazuki1023
0
450
Growing PicoRuby's Ecosystem on ESP32
yuuu
2
150
コード生成時代のAPI定義を支えるRequest Spec移行
pvcresin
0
290
AI時代のTerminal環境を UNIX哲学で設計・運用する
yasunori0418
1
360
手の動かし方がわからなかった私が個人開発者になるまで
usagi0920_pochi
0
280
LLM 101
dalinaum
0
510
オーケストレーション記述言語 Katari
yukikurage
0
270
imagewebp()の向こう側: WebPはなぜ JPEG・PNGより軽いのか
yuzneri
0
130
Web3Dライブラリを作ってVue Custom Rendererの仕組みを理解しよう / lets learn vue custom renderer by making 3d library
drumath2237
1
140
Ruby から Emacs を操作したい
phigasui
0
360
Featured
See All Featured
The Cult of Friendly URLs
andyhume
79
7.1k
The Art of Delivering Value - GDevCon NA Keynote
reverentgeek
16
2.2k
Building the Perfect Custom Keyboard
takai
2
960
Between Models and Reality
mayunak
4
590
How to train your dragon (web standard)
notwaldorf
96
6.9k
Leo the Paperboy
mayatellez
11
2.5k
Data-driven link building: lessons from a $708K investment (BrightonSEO talk)
szymonslowik
1
1.4k
Evolving SEO for Evolving Search Engines
ryanjones
0
360
Groundhog Day: Seeking Process in Gaming for Health
codingconduct
0
490
コードの90%をAIが書く世界で何が待っているのか / What awaits us in a world where 90% of the code is written by AI
rkaga
63
48k
Redefining SEO in the New Era of Traffic Generation
szymonslowik
1
530
Sam Torres - BigQuery for SEOs
techseoconnect
PRO
0
610