Jenkins Evolutions - JEEConf 2012

Transcript

1. Jenkins  Evolu-ons   Anton  Arhipov   ZeroTurnaround   JRebel   @antonarhipov   h/p://arhipov.blogspot.com    
2. Why  Evolu-ons?  
3. Why  Evolu-ons?   test  automa-on  
4. Why  Evolu-ons?   con-nuous   integra-on  
5. Why  Evolu-ons?   con-nuous   deployment  
6. Why  Evolu-ons?   cron  on  steroids  
7. Agenda   !  Background   !  Stories   •  Func-onal  tests   •  Servlet  tests   •  Scaling     !  Random  stuff  
8. Background  -­‐  2008   !  First  installa-on   !  Clicked  “Run”  when  wanted  to  test   stuff  
9. Background     2012   ! 54  215  324  jobs   ! 2  5  8  dedicated  machines   !  Amazon  ~7000  instance-­‐hour  per  month   !  3  in  house  plugin  developed   !  Custom  dashboard  (50  x  300  grid)  
11. h6ps://github.com/                                                    jenkinsci/                                                              jenkins-­‐scripts  
12. Custom  Dashboard  
13. story  of   func-onal  tests  
14. JRebel  Func-onal  JDK  Tests  
15. JRebel  Func-onal  JDK  Tests  
16. JRebel  Func-onal  JDK  Tests   !  Per  JDK   •  Per  func-onal  test   •  Compile  couple  of  classes   •  Run  some  methods  and  assert   •  Recompile  couple  of  classes   •  Run  some  methods  and  assert   •  …  
17. JRebel  Func-onal  JDK  Tests   !  Per  JDK   •  Per  func-onal  test   •  Compile  couple  of  classes   •  Run  some  methods  and  assert   •  Recompile  couple  of  classes   •  Run  some  methods  and  assert   •  …  
18. JRebel  Func-onal  JDK  Tests   !  Per  JDK   •  Per  func-onal  test   •  Compile  couple  of  classes   •  Run  some  methods  and  assert   •  Recompile  couple  of  classes   •  Run  some  methods  and  assert   •  …  
19. JRebel  Func-onal  JDK  Tests   !  Per  JDK   •  Per  func-onal  test   •  Compile  couple  of  classes   •  Run  some  methods  and  assert   •  Recompile  couple  of  classes   •  Run  some  methods  and  assert   •  …  
20. JRebel  Func-onal  JDK  Tests   !  Per  JDK  …   !  Which  Jenkins  feature  is  the   best  here?    
21. JRebel  Func-onal  JDK  Tests   !  Configura-on  matrix  FTW!  
22. JRebel  Func-onal  JDK  Tests     !  Executed  with  a  Groovy  script  
23. JRebel  Func-onal  JDK  Tests  
24. JRebel  Func-onal  JDK  Tests     !  How  to  get  results?  Jenkins   feature…  
25. JRebel  Func-onal  JDK  Tests     !  Output  JUnit  XML!    
26. JRebel  Func-onal  JDK  Tests  
27. JRebel  Func-onal  JDK  Tests   !  Creates  ~  10  000  new  files   !  Compile  ~  1700  java  classes   !  Invoke  the  JVM  ~  550  -mes  
28. JRebel  Func-onal  JDK  Tests   Sloooooooow!  
29. JRebel  Func-onal  JDK  Tests   !  I/O   !  CPU   !  Memory  
30. JRebel  Func-onal  JDK  Tests  
31. JRebel  Func-onal  JDK  Tests   !  Bare  metal   !  Cloud   !  Bare  metal  (+  cloud)  
32. JRebel  Func-onal  JDK  Tests   !  Cloud   •  1  small  instance  per  JDK   •  Manual  update  of  AMIs   •  Slow   •  Scales!  
33. JRebel  Func-onal  JDK  Tests     !  Which  Jenkins  plugin  to  use?    
34. JRebel  Func-onal  JDK  Tests     !  Amazon  EC  plugin  
35. JRebel  Func-onal  JDK  Tests   !  Bare  metal   •  8  core  &  16GB  RAM  gaming   machines   •  Recycled  developer  machines   •  Marke-ng  demo  machines  (iMac)   •  Developer  machines,  ad-­‐hoc  (?)  
36. Jenkins   Master  
37. Jenkins   Master   Windows   Windows   Windows   *nix   *nix   *nix   *nix   *nix  
38. Jenkins   Master   Windows   Windows   Windows   *nix   *nix   *nix   *nix   *nix  
39. Jenkins   Master   Windows   Windows   Windows   *nix   *nix   *nix   *nix   *nix   My   Laptop   iMac  
40. Adding  new  machines     !  How  to  manage  the   configura-ons?   !  How  to  automate  the  setup?  
41. Adding  new  machines     !  Chef,  Puppet  
42. Taming  I/O   !  SSD:  ~30%  performance  gain  
43. story  of   servlet  tests  
44. Servlet  Tests   !  Start  a  container  version   •  WebSphere,  Weblogic,  JBoss,  etc   !  Deploy  applica-ons     !  Test  results,  reload  changes,  test   results,  …  
45. Custom  Dashboard  
46. Servlet  Tests     !  How  to  start  a  server?  
47. Servlet  Tests     !  Duh!  With  a  startup  script!  
48. Servlet  Tests     !  Problem:  1  app  server,  2  jobs.   Which  plugin  to  use?  
49. Servlet  Tests     !  Thro/le  Concurrent  Builds   plugin  
50. Servlet  Tests  
51. Servlet  Tests     !  How  do  you  deploy  an   applica-on?  
52. Servlet  Tests   !  Start  Tomcat   !  Copy  WAR  files  to  webapps/   !  GET  /some-­‐url   !  Assert   !  Update  applica-on   !  GET  /some-­‐url   !  Assert  
53. Servlet  Tests   Sloooooooow!  
54. Servlet  Tests   !  I/O   !  CPU   !  Memory  
55. Tes-ng  Mul-ple  Containers   !  Cloud   •  1  small  instance  per  container   •  Need  to  update  AMIs   •  Slow   •  Isola-on  
56. Tes-ng  Mul-ple  Containers   !  Single  machine   •  Port  hell   •  Memory  limits   •  Fast(er)!    
57. story  of   DVCS  
58. Story  of  DVCS   !  Problem   •  Many  servers   •  Many  containers   •  Many  tests   •  Many  JDKs   !  Slow  feedback  cycle  
59. Story  of  DVCS   DEV   N  tests  on  N  servers    (30  minutes)   STABLE   M  tests  on  M  servers    (3  hours)   Tests  green?   Push  to  branch/repository  
60. Story  of  DVCS  
61. Story  of  DVCS  
62. scalability  
63. Story  of  Scaling   !  Problem   •  Exponen-al  growths  of  tests   •  (containers) X (configurations) X (tests) + const! •  Fight  for  executors  
64. Story  of  Scaling   !  Add  more  machines?   !  Spin  up  more  cloud  instances?   !  A/ach  developer  machines  at   night?   !  Cut  tests  scope?  
65. Story  of  Scaling     !  Jenkins  helps  with  elas-city!  
66. Story  of  Scaling     !  Jenkins  helps  with  elas-city!   WIN!  
67. random  stuff  
68. Random  Stuff     !  There’s  an  app  plugin  for  that!  
69. Some  Cool  Plugins   !  Mercurial  plugin   !  Thro/le  Concurrent  Builds  plugin   !  Matrix  Configura-on  plugin   !  Matrix  Reloaded  plugin   !  SSH  slaves  plugin   !  Publish  over  SSH  plugin   !  Copy  Ar-fact  plugin   !  Copy  to  slave  plugin  
70. Some  Cool  Plugins:     Con-nuous  Deployment   !   Build  Pipeline  plugin   ! Parametrized  Trigger  plugin   !   Downstream  Buildview  plugin   !   Fingerprints   h6p://zeroturnaround.com/blog/how-­‐to-­‐use-­‐jenkins-­‐for-­‐job-­‐chaining-­‐and-­‐visualizaQons/    
71. Some  Cool  Plugins   !  Chuck  Norris  plugin   BUILD   SUCCESSFUL  
72. Some  Cool  Plugins   !  Chuck  Norris  plugin   BUILD  FAILED  
73. Build-­‐it-­‐all!   JRebel  
74. Build-­‐it-­‐all!   JRebel  
75. Build-­‐it-­‐all!   IntelliJ   NetBeans   Eclipse   Installer   JRebel  
76. Build-­‐it-­‐all!   IntelliJ   NetBeans   Eclipse   Installer   JRebel  
77. Build-­‐it-­‐all!   IntelliJ   NetBeans   Eclipse   Installer   JRebel   Tests  
78. UI  
83. QuesQons?