Архитектурные решения при постоении высоконагруженных Linux систем

Вне зависимости от выбранного стека технологий и цели разрабатываемого бэкэнда - подходы к разработке высокопроизводительных систем всегда одинаковы, как и одинакова их отладка и тонкая настройка. Этот доклад позволит слушателям грамотно спланировать архитектуру высоконагруженного сервера, заранее найти узкие места и устранить возможные недостатки. Для новичков предусмотрен краткий обзор терминологии и основ взаимодействия разработчика с ОС.

Transcript

1. АРХИТЕКТУРНЫЕ РЕШЕНИЯ ПРИ ПОСТРОЕНИИ ВЫСОКОНАГРУЖЕННЫХ LINUX СИСТЕМ (Или как программировать грамотно) Докладчик: Табунщик Елена Linux Software Developer Softheme, Киев
2. — Генри Спенсер, программист Те, кто не понимают UNIX, обречены на повторное ее создание, несчастные! ” “
3. UNIX-ФИЛОСОФИЯ Правило Пояснение Модульность Следует писать простые части, связанные ясными интерфейсами. Ясность Ясность лучше, чем мастерство. Композиция Программы должны взаимодействовать с программами. Прозрачность Для упрощения отладки программы ее конструкция должна быть обозримой. Представление Знания оставлять в данных, чтобы логика программы была примитивной. Исправность Аварийное завершение должно происходить явно и максимально быстро. Оптимизация Создайте опытные образцы, заставьте их работать, прежде чем перейти к оптимизации. Разнообразие Не следует доверять утверждениям о "единственно верном пути". Расширяемость Проектируйте с учетом изменений в будущем, поскольку будущее придет скорее, чем кажется.
4. USER SPACE VS KERNEL SPACE User Space Приложения Библиотеки Kernel Space Планировщик, межпроцессное взаимодействие Файловые системы I/O и драйвера устройств Сетевой стек, виртуальная память Hardware
5. STACK VS HEAP Stack Heap Быстрый доступ Более медленный доступ Автоматическое выделение и освобождение памяти Ручное* управление памятью Эффективное управление памятью, фрагментации нет Эффективность использования памяти не гарантируется, фрагментация Только локальные переменные Глобальные переменные Предел размера стека (зависит от ОС) Нет лимита на используемую память Размер переменных не может быть изменен Размер переменных может быть изменен
6. THREAD VS PROCESS Thread Process Быстрое порождение Ресурсоемкое порождение Переключение потоков не требует взаимодействия с ОС Переключение процессов требует взаимодействия с ОС Общее адресное пространство Thread = [Parent Code, Data and Heap + Stack, PC and CPU Registers] Личное адресное пространство Process = [Code + Data + Heap + Stack + PC + PCB + CPU Registers] Изменения в родительском процессе влияют на дочерние Изменения в родительском процессе не влияют на дочерние Прямое общение между потоками Ресурсоемкое межпроцессное взаимодействие (IPC)
7. CACHING • vm.dirty_ratio/vm.dirty_bytes • vm.dirty_background_ratio/vm.dirty_background_bytes • vm.dirty_expire_centisecs • vm.dirty_writeback_centisecs
8. RAID
9. ОЦЕНКА ПРОИЗВОДИТЕЛЬНОСТИ ПРИЛОЖЕНИЯ • задержка обработки (latency) • время отклика (response time) • пропускная способность (throughput) • ресурсоемкость (utilization) • насыщение (saturation)
10. ОТЛАДКА ПРИЛОЖЕНИЯ • USE: utilization, saturation, errors • tools: top, htop, free, vmstat, netstat, tcpdump, iostat, etc • profiling: DTrace, OProfile, Valgrind, etc
11. ЦПУ HARDWARE TWEAKS • process priority $ nice -n 19 ./my_app • affinity (CPU binding) • irqbalance • scheduling: non-real-time/real-time
12. ПАМЯТЬ HARDWARE TWEAKS • PAGE_SIZE : 4KB - 4MB • demand paging • overcommitting memory: vm.overcommit_memory, vm.overcommit_ratio • garbage collection • avoid cache invalidation
13. HARDWARE TWEAKS • TCP vs UDP • jumbo frames (MTU) • socket options: tcp_nodelay, tcp_keepalive_intvl, tcp_keepalive_probes, tcp_keepalive_time, etc • bonding (link aggregation) СЕТЬ
14. APPLICATION TECHNIQUES • caching • buffering • thread pooling • asynchronous IO for files • non-blocking IO for sockets • lock-free programming • actor model: Erlang, Scala • high availability • compiler optimization
15. СИНХРОНИЗАЦИЯ ПОТОКОВ • spinlock - busy waiting • mutex - mutual exclusion lock • read-write lock • deadlock • livelock • race condition • starvation ПРОБЛЕМЫ
16. DEADLOCK
17. LIVELOCK
18. RACE CONDITION
19. STARVATION
20. МАСШТАБИРОВАНИЕ
21. — Дональд Э. Кнут Преждевременная оптимизация — корень всех зол. ” “
22. РЕКОМЕНДУЕМЫЕ ИСТОЧНИКИ • Systems Performance: Enterprise and the Cloud. Book by Brendan Gregg • The Art of Unix Programming. Book by Eric Steven Raymond • Understanding the Linux kernel. Book by Daniel P. Bovet and Marco Cesati • The Art of Scalability. Book by Martin L. Abbott Michael T. Fisher • Linux Foundation Events YouTube channel: https://www.youtube.com/user/ TheLinuxFoundation • Tech Blog “High Scalability”: http://highscalability.com • NGINX Tech Blog: https://www.nginx.com/blog/ • Netflix Tech Blog: http://techblog.netflix.com
23. СПАСИБО!