Docker & Linux Containers (with animations)

Presentation I gave for my team at Microsoft Azure.

This is animated version of https://speakerdeck.com/alp/docker-and-linux-containers

Transcript

1. Linux  Containers  &  Docker   Ahmet  Alp  Balkan   8/14/2014   NOT  MICROSOFT  CONFIDENTIAL  
2. ‘Real’  containers  
3. ‘Real’  containers  
4. What  is  special  about  containers?  
5. What  is  special  about  containers?  
6. What  is  special  about  containers?  
7. What  is  special  about  containers?  
8. Power  of  Containers                                                                                                                                                                                                                                                                                              
9. Power  of  Containers   •  Standard  format  everybody  agrees  on                                                                                                                                                                                                                    
10. Power  of  Containers   •  Standard  format  everybody  agrees  on   •  Once  you  seal  the  box,  it  gets  shipped  “as  is”                                                                                                                    
11. Power  of  Containers   •  Standard  format  everybody  agrees  on   •  Once  you  seal  the  box,  it  gets  shipped  “as  is”   •  SeparaVon  of  concerns   – Building  ó  Packaging  ó  Shipping  
12. Containers  vs.  VMs  
13. Type  1  Hypervisor    
14. Type  1  Hypervisor     Hardware  
15. Type  1  Hypervisor     Hardware   Hypervisor   Kernel  
16. Type  1  Hypervisor     Hardware   VM   VM   Hypervisor   Kernel  
17. Type  1  Hypervisor     Hardware   VM   VM   OperaVng  System   OperaVng  System   Hypervisor   Kernel  
18. Type  1  Hypervisor     Hardware   VM   VM   OperaVng  System   OperaVng  System   bins/libs   bins/libs   Hypervisor   Kernel  
19. Type  1  Hypervisor     Hardware   VM   VM   OperaVng  System   OperaVng  System   bins/libs   bins/libs   App   App   App   App   Hypervisor   Kernel  
20. Type  2  Hypervisor    
21. Type  2  Hypervisor     Hardware  
22. Type  2  Hypervisor     Hardware   OperaVng  System  
23. Type  2  Hypervisor     Hardware   Hypervisor  So[ware   OperaVng  System  
24. Type  2  Hypervisor     Hardware   Hypervisor  So[ware   OperaVng  System   App   App   App  
25. Type  2  Hypervisor     Hardware   Hypervisor  So[ware   VM   VM   OperaVng  System   OperaVng  System   bins/libs   bins/libs   App   App   App   App   OperaVng  System   App   App   App  
26. Linux  Containers  
27. Linux  Containers   Hardware  
28. Linux  Containers   Hardware   OperaVng  System  (Linux)  
29. Linux  Containers   Hardware   OperaVng  System  (Linux)   bins/libs  
30. Linux  Containers   Hardware   OperaVng  System  (Linux)   bins/libs   Container  
31. Linux  Containers   Hardware   OperaVng  System  (Linux)   bins/libs   Container   App  
32. Linux  Containers   Hardware   OperaVng  System  (Linux)   bins/libs   Container   App   App  
33. Linux  Containers   Hardware   OperaVng  System  (Linux)   bins/libs   Container   Container   App   App  
34. Linux  Containers   Hardware   OperaVng  System  (Linux)   bins/libs   Container   Container   bins/libs   App   App  
35. Linux  Containers   Hardware   OperaVng  System  (Linux)   bins/libs   Container   Container   bins/libs   App   App   App  
36. Linux  Containers   Hardware   OperaVng  System  (Linux)   bins/libs   Container   Container   bins/libs   App   App   App  
37. lxc:  Linux  Containers   •  OS-­‐Level  virtualizaVon,  no  Hypervisor   •  Namespacing   –  PIDs   –  user  IDs   –  network  tables   –  mounted  drivers   –  …   •  Started  in  2006.   •  Developed  by  a  team  of  4   –  v1.0  in  2014.  
38. cgroups:  Control  Groups   •  Fair  resource  usage  sharing  for  Linux  kernel   – CPU   – Memory   – I/O   •  Started  in  2007.   – by  2  Google  Engineers  
39. Distributed  ApplicaVon  Model  
40. Distributed  ApplicaVon  Model   Front-­‐end  (web)  
41. Distributed  ApplicaVon  Model   Front-­‐end  (web)   App  services  
42. Distributed  ApplicaVon  Model   Front-­‐end  (web)   App  services   Background  workers  
43. Distributed  ApplicaVon  Model   Front-­‐end  (web)   App  services   Background  workers   DB   Cache  Servers  
44. Distributed  ApplicaVon  Model   Front-­‐end  (web)   App  services   Background  workers   DB   Cache  Servers  
45. Distributed  ApplicaVon  Model   Front-­‐end  (web)   App  services   Background  workers   DB   Cache  Servers  
46. Advantages  of  containers                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                            
47. Advantages  of  containers   •  Only  one  kernel  runs  on  the  machine                                                                                                                                                                                                                                                                                                                                                                                                                                  
48. Advantages  of  containers   •  Only  one  kernel  runs  on  the  machine   •  No  Hypervisor  overhead.   –  Apps  directly  run  on  CPU   –  Rack  space  &  power  &  more  free  CPU  cycles                                                                                                                                                                                                                                      
49. Advantages  of  containers   •  Only  one  kernel  runs  on  the  machine   •  No  Hypervisor  overhead.   –  Apps  directly  run  on  CPU   –  Rack  space  &  power  &  more  free  CPU  cycles   •  Run  different  versions  of  OS  on  same  server   –  Run  different  OSes  on  the  same  server                                                              
50. Advantages  of  containers   •  Only  one  kernel  runs  on  the  machine   •  No  Hypervisor  overhead.   –  Apps  directly  run  on  CPU   –  Rack  space  &  power  &  more  free  CPU  cycles   •  Run  different  versions  of  OS  on  same  server   –  Run  different  OSes  on  the  same  server   •  Process  isolaVon  &  security  
51. Use  of  Linux  Containers                                                                                                                                                                                                                                                        
52. Use  of  Linux  Containers   •  Borg   –  Google’s  “secret  sauce”   –  Everything  runs  in  containers   –  Not  open  source                                                                                          
53. Use  of  Linux  Containers   •  Borg   –  Google’s  “secret  sauce”   –  Everything  runs  in  containers   –  Not  open  source                                                                                          
54. Use  of  Linux  Containers   •  Borg   –  Google’s  “secret  sauce”   –  Everything  runs  in  containers   –  Not  open  source     •  Mesos   –  Developed  by  Twiger   –  Open  sourced  
55. Use  of  Linux  Containers   •  Borg   –  Google’s  “secret  sauce”   –  Everything  runs  in  containers   –  Not  open  source     •  Mesos   –  Developed  by  Twiger   –  Open  sourced  
56. Use  of  Linux  Containers   •  Borg   –  Google’s  “secret  sauce”   –  Everything  runs  in  containers   –  Not  open  source     •  Mesos   –  Developed  by  Twiger   –  Open  sourced   “IT’S  A  WAY  OF  STITCHING  TOGETHER  A   COLLECTION  OF  MACHINES  INTO,  BASICALLY,   A  BIG  COMPUTER.”  
59. …is  a  Linux  container  engine  
60. …is  Open  Source  
61. …is  also  a  company.  
62. Why  was  Docker  born?                                                                                                                                                                                                                                                                                                                                                                                                                                
63. Why  was  Docker  born?   •  Shipping  code  to  servers  is  hard                                                                                                                                                                                                                                                                                                                                                            
64. Why  was  Docker  born?   •  Shipping  code  to  servers  is  hard   •  It’s  hard  to  glue  the  technology   – LXC  +  cgroups                                                                                                                                                                                                                                                          
65. Why  was  Docker  born?   •  Shipping  code  to  servers  is  hard   •  It’s  hard  to  glue  the  technology   – LXC  +  cgroups   – lmcky:  “Let  me  contain  that  for  you”   •  open  source  version  of  Google’s  container  stack                                                                          
66. Why  was  Docker  born?   •  Shipping  code  to  servers  is  hard   •  It’s  hard  to  glue  the  technology   – LXC  +  cgroups   – lmcky:  “Let  me  contain  that  for  you”   •  open  source  version  of  Google’s  container  stack     •  There  is  no  standard  image  format  
67. Another  moVve:  eliminaVng  Ops                                                                                                                                                                                                                                                                                                                                                                                                                                          
68. Another  moVve:  eliminaVng  Ops   •  So[ware  used  to  be  deployed  by  ops  teams                                                                                                                                                                                                                                                                                                                                                    
69. Another  moVve:  eliminaVng  Ops   •  So[ware  used  to  be  deployed  by  ops  teams   •  Docker  might  be  “the  first  true  DevOps  tool”                                                                                                                                                                                                                                                        
70. Another  moVve:  eliminaVng  Ops   •  So[ware  used  to  be  deployed  by  ops  teams   •  Docker  might  be  “the  first  true  DevOps  tool”   – Increased  shipment  cadence                                                                                                                                                                                                
71. Another  moVve:  eliminaVng  Ops   •  So[ware  used  to  be  deployed  by  ops  teams   •  Docker  might  be  “the  first  true  DevOps  tool”   – Increased  shipment  cadence   – Fast  moving  engineering  culture                                                                                                                              
72. Another  moVve:  eliminaVng  Ops   •  So[ware  used  to  be  deployed  by  ops  teams   •  Docker  might  be  “the  first  true  DevOps  tool”   – Increased  shipment  cadence   – Fast  moving  engineering  culture   •  Sysadmins  no  more.                                                                                      
73. Another  moVve:  eliminaVng  Ops   •  So[ware  used  to  be  deployed  by  ops  teams   •  Docker  might  be  “the  first  true  DevOps  tool”   – Increased  shipment  cadence   – Fast  moving  engineering  culture   •  Sysadmins  no  more.   – A  great  abstracVon  over  infrastructure.  
74. Why  is  Docker  special?                                                                                                                                                                                                                                    
75. Why  is  Docker  special?   •  The  real  value  is  not  technology.                                                                                                                                                              
76. Why  is  Docker  special?   •  The  real  value  is  not  technology.   •  It’s  “gelng  people  to  agree  on  something”.                                                                  
77. Why  is  Docker  special?   •  The  real  value  is  not  technology.   •  It’s  “gelng  people  to  agree  on  something”.   – Packaging  and  delivery  method.  
78. Why  is  Docker  special?   •  The  real  value  is  not  technology.   •  It’s  “gelng  people  to  agree  on  something”.   – Packaging  and  delivery  method.  
79. Cloud  as  one  big  machine  
80. Cloud  as  one  big  machine  
81. Cloud  as  one  big  machine   docker  client  
82. Cloud  as  one  big  machine   docker  client   $  docker  run  …  
83. Cloud  as  one  big  machine   docker  client   $  docker  run  …  
84. Cloud  as  one  big  machine   docker  client   $  docker  run  …   libswarm  
85. Demo  Vme  
86. Demo  Vme   Linux  VM  on  Azure  
87. Demo  Vme   Linux  VM  on  Azure   docker  daemon  
88. Demo  Vme   Linux  VM  on  Azure   docker  daemon  
89. Demo  Vme   Linux  VM  on  Azure   docker  daemon   docker  client  
90. Demo  Vme   Linux  VM  on  Azure   docker  daemon   docker  client  
91. Demo  Vme   Linux  VM  on  Azure   docker  daemon   docker  client   Container   Container  
92. Demo  Vme   Linux  VM  on  Azure   docker  daemon   docker  client   Container   Container   App   App  
93. Docker  Image  Layers  
94. Docker  Image  Layers   ubuntu  
95. Docker  Image  Layers   ubuntu   apache+php  
96. Docker  Image  Layers   ubuntu   apache+php   ADD    /my/applicaIon  
97. Docker  Image  Layers   ubuntu   apache+php   ADD    /my/applicaIon   ADD    /my/configuraIon  
98. Docker  Image  Layers   ubuntu   apache+php   ADD    /my/applicaIon   ADD    /my/configuraIon   200  MB  
99. Docker  Image  Layers   ubuntu   apache+php   ADD    /my/applicaIon   ADD    /my/configuraIon   200  MB   250  MB  
100. Docker  Image  Layers   ubuntu   apache+php   ADD    /my/applicaIon   ADD    /my/configuraIon   200  MB   250  MB   260  MB  
101. Docker  Image  Layers   ubuntu   apache+php   ADD    /my/applicaIon   ADD    /my/configuraIon   200  MB   250  MB   260  MB   261  MB  
102. Docker  Image  Layers   ubuntu   apache+php   ADD    /my/applicaIon   ADD    /my/configuraIon   200  MB   250  MB   260  MB   261  MB   50  MB  diff   10  MB  diff   1  MB  diff  
103. Layers  &  Reuse  
104. Layers  &  Reuse  
105. Layers  &  Reuse   Base  Linux  DistribuVon  image  
106. Layers  &  Reuse   Base  Linux  DistribuVon  image   Google  configuraVon  
107. Layers  &  Reuse   Base  Linux  DistribuVon  image   Google  configuraVon   mapreduce   crawler   web  frontend   video  encoder  
108. Layers  &  Reuse   Base  Linux  DistribuVon  image   Google  configuraVon   mapreduce   crawler   web  frontend   video  encoder  
109. Layers  &  Reuse   Base  Linux  DistribuVon  image   Google  configuraVon   mapreduce   crawler   web  frontend   video  encoder  
110. Dockerfile            
111. Dockerfile   FROM ubuntu:latest        
112. Dockerfile   FROM ubuntu:latest MAINTAINER Ahmet <ahmetb@microsoft.com>      
113. Dockerfile   FROM ubuntu:latest MAINTAINER Ahmet <ahmetb@microsoft.com> RUN apt-get install nginx mysql python    
114. Dockerfile   FROM ubuntu:latest MAINTAINER Ahmet <ahmetb@microsoft.com> RUN apt-get install nginx mysql python ADD /my/app /var/www/app  
115. Dockerfile   FROM ubuntu:latest MAINTAINER Ahmet <ahmetb@microsoft.com> RUN apt-get install nginx mysql python ADD /my/app /var/www/app ENTRYPOINT /var/www/app/server.py
116. Dockerfile   FROM ubuntu:latest MAINTAINER Ahmet <ahmetb@microsoft.com> RUN apt-get install nginx mysql python ADD /my/app /var/www/app ENTRYPOINT /var/www/app/server.py $ docker build
117. Dockerfile  inheritance          
118. Dockerfile  inheritance   FROM microsoft/aspnet-vnext      
119. Dockerfile  inheritance   FROM microsoft/aspnet-vnext MAINTAINER Bob <bob@microsoft.com>    
120. Dockerfile  inheritance   FROM microsoft/aspnet-vnext MAINTAINER Bob <bob@microsoft.com> ADD /my/app /var/www/app  
121. Dockerfile  inheritance   FROM microsoft/aspnet-vnext MAINTAINER Bob <bob@microsoft.com> ADD /my/app /var/www/app ENTRYPOINT /var/www/app/Server.cs
122. Dockerfile  inheritance   FROM microsoft/aspnet-vnext MAINTAINER Bob <bob@microsoft.com> ADD /my/app /var/www/app ENTRYPOINT /var/www/app/Server.cs Reuse  
123. Docker  use  cases                                                                                                                                                                                                                                                                                                                                                    
124. Docker  use  cases   •  Just  like  VMs  in  producVon   –  SpoVfy,  eBay                                                                                                                                                                                                                                                            
125. Docker  use  cases   •  Just  like  VMs  in  producVon   –  SpoVfy,  eBay   •  One  off  tasks                                                                                                                                                                                                                              
126. Docker  use  cases   •  Just  like  VMs  in  producVon   –  SpoVfy,  eBay   •  One  off  tasks   –  Build  automaVon                                                                                                                                                                                          
127. Docker  use  cases   •  Just  like  VMs  in  producVon   –  SpoVfy,  eBay   •  One  off  tasks   –  Build  automaVon   –  ConVnuous  integraVon                                                                                                                                          
128. Docker  use  cases   •  Just  like  VMs  in  producVon   –  SpoVfy,  eBay   •  One  off  tasks   –  Build  automaVon   –  ConVnuous  integraVon   –  TesVng                                                                                                                        
129. Docker  use  cases   •  Just  like  VMs  in  producVon   –  SpoVfy,  eBay   •  One  off  tasks   –  Build  automaVon   –  ConVnuous  integraVon   –  TesVng   –  Bug  repros                                                                                                
130. Docker  use  cases   •  Just  like  VMs  in  producVon   –  SpoVfy,  eBay   •  One  off  tasks   –  Build  automaVon   –  ConVnuous  integraVon   –  TesVng   –  Bug  repros   •  Making  the  cloud  look  like  “one  big  machine”    
132. …  is  a  minimal  host  OS  (Linux)  for  Docker.  
133. …is  an  open  source  project  
134. …is  also  a  company  
135. …is  auto  self-­‐updaVng.  
136. …has  rollbacks.     (updates  are  atomic)  
137. Clustering                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                                
138. Clustering   •  Kubernetes  (by  Google)   –  for  clustering  Docker  containers  across  nodes   –  Inspired  by  Google’s  internal  systems  like  Borg/ Omega   –  Open  source   –  10+  years  of  experience  in  running  containers   –  ContribuVons  by  Microso[  &  IBM  etc.                                                                                                                              
139. Clustering   •  Kubernetes  (by  Google)   –  for  clustering  Docker  containers  across  nodes   –  Inspired  by  Google’s  internal  systems  like  Borg/ Omega   –  Open  source   –  10+  years  of  experience  in  running  containers   –  ContribuVons  by  Microso[  &  IBM  etc.   •  fleet  (by  CoreOS)   –  for  clustering  CoreOS  nodes   –  Open  source    
140. Cons  of  Docker                                                                                                                                                                                                                                            
141. Cons  of  Docker   •  Linux  only   – Probably  will  never  support  Windows.                                                                                                                                        
142. Cons  of  Docker   •  Linux  only   – Probably  will  never  support  Windows.     •  Security  risks                                                                                                      
143. Cons  of  Docker   •  Linux  only   – Probably  will  never  support  Windows.     •  Security  risks     •  Same  pricing  as  VMs                                                          
144. Cons  of  Docker   •  Linux  only   – Probably  will  never  support  Windows.     •  Security  risks     •  Same  pricing  as  VMs   •  SVll  developing  ecosystem  
145. Further  reading   •  Return  of  the  Borg  (Wired)   •  Inside  the  Borg  and  Mesos  (Verge)   •  Google  Open  Sources  Its  Secret  Weapon  in  Cloud   CompuVng:  Kubernetes  (Wired)   •  Docker:  hgp://docker.com   •  CoreOS:  hgp://coreos.com   •  Running  Docker  on  Windows  (docker.com)   •  Docker  on  Azure  (azure.com)   •  Omega:  flexible,  scalable  schedulers  for  large  compute   clusters  SIGOPS  EuroSys  2013,  ACM,  pp.  351-­‐364     (Google  Research)  
146. Thanks.   QuesVons?