PyCon2013China_Bj_DAE

http://cn.pycon.org/2013/beijing
洪强宁 DAE系统的设计

Transcript

1. DAE PyCon China 2013
2. About Me • 洪强宁 / hongqn • 2002年开始接触Python • 2004年开始完全使⽤用Python⼯工 作 • 2006年加⼊入⾖豆瓣，现任⾸首席架 构师 • www.douban.com/people/ hongqn/ • hongqn@douban.com
3. 议程 • DAE是什么 • 为什么要开发DAE • DAE的架构 • DAE的特点 • DAE的未来
5. DAE是什么
6. Douban Adorable Engineers
7. Douban Adorable Engineers Douban App Engine
8. Douban Adorable Engineers Douban App Engine
9. PaaS
10. Platform as a Service (PaaS)
11. PaaS
12. PaaS Private
13. PaaS Private Python
14. Current State
15. 427 apps
16. 427 apps 126 对外应⽤用
17. bubbler.labs.douban.com
18. m.douban.com
19. douban.fm
20. movie.douban.com
21. group.douban.com
22. code
23. up
24. 花名册
25. 精灵宝钻
26. …等等
27. 每天处理 2.4 亿动态请求 5K 峰值 qps on 32 nodes
29. 为什么要开发DAE
30. 代码拆分
31. 代码拆分 1 big svn repo (17万提交)
32. 代码拆分 1 big svn repo (17万提交) 4602 git repo (2881 fork)
33. 重⽤用基础设施 Proj A Proj B Proj C Proj D MySQL, BeansDB, Memcache, MQ …
34. 简化新项⺫⽬目启动 $ dae create $ dae serve $ dae deploy
35. 最佳实践对 每个app开箱即⽤用
36. 最佳实践对 每个app开箱即⽤用 持续集成
37. 最佳实践对 每个app开箱即⽤用 持续集成 分级上线
38. 最佳实践对 每个app开箱即⽤用 持续集成 分级上线 状态收集
39. 最佳实践对 每个app开箱即⽤用 持续集成 分级上线 状态收集 故障报告
40. Scale SA
41. Scale SA 4
43. DAE的架构
44. 基础公共服务 运⾏行环境 路由系统 依赖 管理 部署系统 资源管理 系统
45. app.yaml
46. pip-req.txt $ dae install flask
47. pip-req.txt $ dae install flask PyPI 镜像 pypi.douban.com
48. pip-req.txt $ dae install flask
49. Instance
50. Instance • web
51. Instance • web • gunicorn
52. Instance • web • gunicorn • service
53. Instance • web • gunicorn • service • gunicorn + customized worker
54. Instance • web • gunicorn • service • gunicorn + customized worker • daemon
55. Instance • web • gunicorn • service • gunicorn + customized worker • daemon • zookeeper
56. 预定义 handler • 预定义 URL • 预定义 query parameter • 预定义 message queue
57. 两级结构 Load Balancer (nginx) Gateway (nginx) App (gunicorn) App Starter unix socket fallback start Node 1 Gateway (nginx) App (gunicorn) App Starter Node 2
58. 基础服务API • mysql • memcache • doubandb, doubanfs • moosefs • beanstalkd • cdn • statsd + graphite • mail • elastic search • irc waylife 监控API调⽤用
59. 部署 部署界⾯面 部署服务 控制命令 部署进度 节点 Load Balancer 节点 (via websocket) ⽣生成配置 更新路由 节点 应⽤用⾃自检 更新代码 重启应⽤用
60. DAE升级 dev集群 (master branch) beta集群 (beta branch) stable集群 (release branch) 测试应⽤用 对内应⽤用 对外应⽤用 持续集成
62. DAE的特点
63. Low Overhead
64. Low Overhead • 资源分配 — 进程
65. Low Overhead • 资源分配 — 进程 • 资源隔离 — UNIX帐号
66. Low Overhead • 资源分配 — 进程 • 资源隔离 — UNIX帐号 • 资源限制 — 外部监控
67. Customizable
68. Customizable • 每个应⽤用从模板⽣生成nginx配置
69. Customizable • 每个应⽤用从模板⽣生成nginx配置 • 使⽤用 hook point 定制
70. Customizable • 每个应⽤用从模板⽣生成nginx配置 • 使⽤用 hook point 定制 • 或者只使⽤用⽣生成的 nginx 配置⽚片段
71. ⾃自依赖
72. ⾃自依赖 • 通过⼀一个应⽤用部署应⽤用
73. ⾃自依赖 • 通过⼀一个应⽤用部署应⽤用 • 通过⼀一个应⽤用管理应⽤用
74. ⾃自依赖 • 通过⼀一个应⽤用部署应⽤用 • 通过⼀一个应⽤用管理应⽤用 • ⼀一个应⽤用 scale 所有应⽤用
75. ⾃自依赖 • 通过⼀一个应⽤用部署应⽤用 • 通过⼀一个应⽤用管理应⽤用 • ⼀一个应⽤用 scale 所有应⽤用 • ⼀一个应⽤用 serve 跨应⽤用的静态⽂文件
76. ⾃自依赖 • 通过⼀一个应⽤用部署应⽤用 • 通过⼀一个应⽤用管理应⽤用 • ⼀一个应⽤用 scale 所有应⽤用 • ⼀一个应⽤用 serve 跨应⽤用的静态⽂文件 • DAE 的代码托管在⼀一个 DAE 应⽤用上
77. gevent
78. gevent • 默认启⽤用
79. gevent • 默认启⽤用 • ⽀支持⻓长连接，如 websocket
80. gevent • 默认启⽤用 • ⽀支持⻓长连接，如 websocket • 节省内存
81. gevent • 默认启⽤用 • ⽀支持⻓长连接，如 websocket • 节省内存 • 很多坑
82. gevent • 默认启⽤用 • ⽀支持⻓长连接，如 websocket • 节省内存 • 很多坑 greenify 已开源 github.com/douban/greenify
83. gevent • 默认启⽤用 • ⽀支持⻓长连接，如 websocket • 节省内存 • 很多坑
84. Service 是⼀一等公民
85. Service 是⼀一等公民 • Thrift
86. Service 是⼀一等公民 • Thrift • 在线客户端⽣生成
87. Service 是⼀一等公民 • Thrift • 在线客户端⽣生成 • 依赖注册
88. Service 是⼀一等公民 • Thrift • 在线客户端⽣生成 • 依赖注册 • 升级通知
89. Service 是⼀一等公民 • Thrift • 在线客户端⽣生成 • 依赖注册 • 升级通知 thriftclient 即将开源
90. Service 是⼀一等公民 • Thrift • 在线客户端⽣生成 • 依赖注册 • 升级通知
91. 收集⼤大量状态数据
92. 内置最佳实践
93. 内置最佳实践 • 错误收集 - sentry
94. 内置最佳实践 • 错误收集 - sentry • 在线 profile ⼯工具
95. 内置最佳实践 • 错误收集 - sentry • 在线 profile ⼯工具 • 预发布环境
96. 内置最佳实践 • 错误收集 - sentry • 在线 profile ⼯工具 • 预发布环境 • 持续集成
97. 内置最佳实践 • 错误收集 - sentry • 在线 profile ⼯工具 • 预发布环境 • 持续集成 • Code集成
98. 内置最佳实践 • 错误收集 - sentry • 在线 profile ⼯工具 • 预发布环境 • 持续集成 • Code集成 • 打包发布
99. 内置最佳实践 • 错误收集 - sentry • 在线 profile ⼯工具 • 预发布环境 • 持续集成 • Code集成 • 打包发布 • 分级上线
100. 内置最佳实践 • 错误收集 - sentry • 在线 profile ⼯工具 • 预发布环境 • 持续集成 • Code集成 • 打包发布 • 分级上线 • 服务地址实时推送
101. 内置最佳实践 • 错误收集 - sentry • 在线 profile ⼯工具 • 预发布环境 • 持续集成 • Code集成 • 打包发布 • 分级上线 • 服务地址实时推送 cfgpusher 即将开源
102. 内置最佳实践 • 错误收集 - sentry • 在线 profile ⼯工具 • 预发布环境 • 持续集成 • Code集成 • 打包发布 • 分级上线 • 服务地址实时推送
103. 不受限的Python环境
104. 不受限的Python环境 • 可⽤用C扩展
105. 不受限的Python环境 • 可⽤用C扩展 • 可⽤用 fork, subprocess, multiprocessing…
106. 不受限的Python环境 • 可⽤用C扩展 • 可⽤用 fork, subprocess, multiprocessing… 曹娥已开源 github.com/douban/CaoE
107. 不受限的Python环境 • 可⽤用C扩展 • 可⽤用 fork, subprocess, multiprocessing…
109. DAE的未来
110. ⾖豆瓣所有应⽤用的平台
111. cgroups
112. 离线⼤大数据计算
113. 更好的 service 体系
114. 跨 IDC
115. QoS
116. 公有云服务？
117. 开源？
118. 开源!
119. 开源!
120. 谢谢！