Pipeline as Code no Nubank - 2019

A Portuguese Talk about how Nubank deals with more than 400+ services and 400+ Engineers for building pipelines from Definition.

Transcript

1. Pipeline as Code no Nubank 28/11/2019
2. Marko Souza Software Engineer Engineering Productivity Squad 28 Anos
3. Sobre o Nubank
5. Engineering Productivity ? a.k.a. eng-prod
6. Números do Nubank 400+ 1200+ 400+ Micro Serviços Repositórios Engenheiros
7. Infrastructure as Code (IaC) Is the process of managing and provisioning computer data centers through machine-readable definition files, rather than physical hardware configuration or interactive configuration tools. Wikipedia
8. Centralizado Repositório no Github Rastreável Quando uma mudança ocorre sabemos quando ele foi aplicada Reproduzivel Através do versionamento. Processado Configs para diferentes finalidades no S3 (AWS) Fácil Manutenção Reverts Novas configs Combinar configs existentes Definition
9. 3200+ 5400+ 1500+ Pipelines Pull Requests/Mês Deploys/Mês
10. Problemas ? Mudanças Concorrentes Falta de Padronização Melhorias Complexas XML ??? Excesso de Trabalho Manual
11. Como lidar com tantas mudanças?
12. Por que não Pipeline as Code?
13. Como? 1 DEFINITION 3 CÓDIGO CLOJURE 2 GOCD-YAML-CONFIG PLUGIN 4 AUTOMÁTICAMENTE
14. Por quê usar uma Linguagem de Alto Nível?
15. {:name :heimdall :environments {:staging #nu/prototypes-for [:staging :sharded+global] :prod #nu/prototypes-for [:prod :sharded+global]} :pipelines #{{:type :clojure-service :test-frameworks #{:clojure-test} :cdc-test-frameworks #{:sachem} :prod {:promotion :automatic}}}} Pipeline Definition
16. Heimdall Pipeline
17. Heimdall Multi Country
18. Heimdall México
20. (defn- build [service {:keys [prefix repo branch whitelist image-name-override environment-variables approval] :as options}] ...) (defn publish [service {:keys [prefix repo branch service? Tag-latest] :as options}] ...) (defn- dockerfiles [service & {:keys [folder] :as options}] [(build service options) (publish service options)]) (def dockerfiles-pipelines (flatten [(dockerfiles "alertmanager" :tag-latest true) … (dockerfiles "boot" :prefix "nudev" :folder "dev/boot")])) Docker Examples
21. Conclusões
22. Principais Dificuldades DRY RUN Temos dificuldades em testar que os jobs funcionarão. PRE FLIGHT CHECK Validar as configurações antes de aplicar: (dependências entre pipelines, source-code, etc) TREINAMENTO Temos boas docs, mas ocasionalmente precisamos treinar novos Engenheiros. GARGALO Os squads precisam do nosso Aprove na DSL. Isso demanda entendimento das necessidade deles. RESTRIÇÃO DE CI Não são todos CI's que suportam configurações centralizadas READABILITY É necessário balancear reutilização com duplicação de Código.
23. Principais Vantagens MANUTENABILIDADE Refactors, Fixes de Segurança, Migrações, Evoluções e Padronização. COMPOSIÇÃO Compomos funções que podem ser reutilizadas em vários contextos e finalidades TESTE UNITÁRIO Testes nos ajudam a manter as pipelines com as estruturas desejadas. RASTREABILIDADE Podemos identificar qual alteração causou um problema ou mudança de comportamento ESCALA Dá poder de acompanhar o crescimento em Engs, Serviços e Países. REPRODUTIBILIDADE Podemos usar a mesma versão para reproduzir um comportamento estranho
25. Interested in joining our revolution? sou.nu/jobs-at-nubank