Checklist pour concevoir une application dans le cloud: 10 conseils à l’attention des concepteurs et architectes

Kubernetes et les technologies cloud sont aujourd'hui les standards pour déployer des applications de toutes sortes dans le cloud: api, batchs, microservices et même des monolithes!
Au delà de la hype - et des trolls, ils apportent des solutions à beaucoup de problèmes mais aussi une grande complexité.

Il peut donc être très difficile pour les développeurs et concepteurs d'identifier les contraintes de telles architectures.

Dans cette présentation, vous (re)découvrirez dix astuces et conseils que j'ai pu mettre en pratique et qui m'ont aidé dans mes derniers projets.

Ces derniers traiteront :

- de la pertinence du cloud dans vos projets et organisations
- du choix des solutions technologiques
- des contraintes de conception liées à K8S
- du développement
- de la gestion des livraisons au travers de la CI
- de l’observabilité
- et plus encore !

Transcript

1. Checklist pour concevoir une
   application dans le cloud:
   10 conseils à l’attention des concepteurs et
   architectes
   1
   

   View Slide

2. Alexandre Touret
   Architecte / Développeur
   #Java #API #CI #Cloud
   #Software_Craftsmanship
   2
   @touret_alex https://blog.touret.info
   

   View Slide

3. Un peu de
   contexte ...
   1.
   

   View Slide

4. View Slide

5. Technologies
   utilisées
   5
   

   View Slide

6. 6
   Besoin
   Les
   connaissances
   Le contexte La conception
   Démarrage
   Les
   environnements
   d’exécution
   L’observabilité
   CI/CD
   La configuration Les logs
   

   View Slide

7. En avez vous
   VRAIMENT
   besoin ?
   Besoin
   Les
   connaissances
   Le contexte La conception
   Démarrage
   Les
   environnements
   d’exécution
   L’observabilité
   CI/CD
   La configuration Les logs
   

   View Slide

8. Application gestion
   Périmètre maîtrisé
   Déploiement déjà automatisé
   8
   

   View Slide

9. Quelles sont les
   contraintes techniques?
   Avez-vous des SLOs contraignantes?
   (ex. disponibilité supérieure à 99%)
   Avez vous vraiment besoin de scaler dynamiquement votre
   application ?
   9
   

   View Slide

10. Mise à disposition
    d’environnements
    10
    Avez vous besoin de délivrer des environnements à la
    demande (et très rapidement)?
    

    View Slide

11. Les bases de
    Docker & Cie
    Besoin
    Les
    connaissances
    Le contexte La conception
    Démarrage
    Les
    environnements
    d’exécution
    L’observabilité
    CI/CD
    La configuration Les logs
    

    View Slide

12. View Slide

13. Il vous faudra
    connaître
    13
    

    View Slide

14. View Slide

15. De mon côté…
    

    View Slide

16. Le contexte
    Besoin
    Les
    connaissances
    Le contexte La conception
    Démarrage
    Les
    environnements
    d’exécution
    L’observabilité
    CI/CD
    La configuration Les logs
    

    View Slide

17. « les organisations qui conçoivent
    des systèmes [...] tendent
    inévitablement à produire des
    designs qui sont des copies de la
    structure de communication de
    leur organisation. »
    — M. Conway
    17
    

    View Slide

18. Quel est le RACI ?
    Est-ce que votre organisation est compatible ?
    18
    RACI &
    Responsabilités
    

    View Slide

19. Une vulnérabilité de la libc6
    → qui le corrige : l’OPS ou le développeur?
    19
    Un exemple
    

    View Slide

20. Les
    applications
    stateless et les
    autres ...
    Besoin
    Les
    connaissances
    Le contexte La conception
    Démarrage
    Les
    environnements
    d’exécution
    L’observabilité
    CI/CD
    La configuration Les logs
    

    View Slide

21. 21
    Codebase
    One codebase tracked in revision
    control, many deploys
    Dependencies
    Explicitly declare and isolate
    dependencies
    Config
    Store config in the environment
    Backing Services
    Treat backing services as attached
    resources
    Build, release, run
    Strictly separate build and run
    stages
    Backing Services
    Treat backing services as attached
    resources
    Processes
    Execute the app as one or more
    stateless processes
    Port Binding
    Export services via port binding
    Disposability
    Maximize robustness with fast
    startup and graceful shutdown
    Dev/prod parity
    Keep development, staging, and
    production as similar as possible
    Logs
    Treat logs as event streams
    Admin processes
    Run admin/management tasks as
    one-off processes
    Source: https://12factors.net
    

    View Slide

22. 22
    Pour une API Port Binding Disposability
    Dev Prod Parity
    Processes
    Config
    Concurrency
    

    View Slide

23. Démarrage
    (rapide) de
    l’application
    Besoin
    Les
    connaissances
    Le contexte La conception
    Démarrage
    Les
    environnements
    d’exécution
    L’observabilité
    CI/CD
    La configuration Les logs
    

    View Slide

24. View Slide

25. Bien choisir ses
    frameworks et
    environnements
    d’exécution
    Besoin
    Les
    connaissances
    Le contexte La conception
    Démarrage
    Les
    environnements
    d’exécution
    L’observabilité
    CI/CD
    La configuration Les logs
    

    View Slide

26. View Slide

27. 27
    Items à identifier
    ✓ Rapidité du démarrage
    ✓ Gestion des arrêts
    ✓ Capacité à s’intégrer dans Docker et K8S
    ✓ Observabilité
    ✓ Mémoire et CPU utilisées
    ✓ Gestion des dépendances et du patch management
    

    View Slide

28. L’ observabilité
    Besoin
    Les
    connaissances
    Le contexte La conception
    Démarrage
    Les
    environnements
    d’exécution
    L’observabilité
    CI/CD
    La configuration Les logs
    

    View Slide

29. Adresser sur ce sujet
    dès la conception !
    Ne pas attendre la mise en production :)
    Exposer via des endpoints REST l’état de votre système
    Faire attention aux FRAMEWORKS utilisés
    29
    

    View Slide

30. liveness &
    readiness probes
    livenessProbe:
    failureThreshold: 3
    httpGet:
    path: /actuator/health/liveness
    port: http
    scheme: HTTP
    initialDelaySeconds: 30
    periodSeconds: 10
    successThreshold: 1
    timeoutSeconds: 1
    30
    readinessProbe:
    failureThreshold: 3
    httpGet:
    path: /actuator/health/readiness
    port: http
    scheme: HTTP
    initialDelaySeconds: 30
    periodSeconds: 30
    successThreshold: 1
    timeoutSeconds: 1
    

    View Slide

31. Monitoring
    ▪ Micrometer
    ▪ Prometheus
    ▪ Grafana
    31
    

    View Slide

32. Micrometer
    • Permet d’exporter des métriques (par ex. Le TTR d’une API en utilisant l’annotation @Timed)
    • Ces métriques peuvent être agrégées dans Prometheus
    dependencies {
    implementation 'io.micrometer:micrometer-registry-prometheus’
    }
    

    View Slide

33. 33
    management:
    endpoints:
    enabled-by-default: true
    web:
    exposure:
    include: '*'
    jmx:
    exposure:
    include: '*'
    endpoint:
    health:
    show-details: always
    enabled: true
    probes:
    enabled: true
    shutdown:
    enabled: true
    prometheus:
    enabled: true
    metrics:
    enabled: true
    health:
    livenessstate:
    enabled: true
    readinessstate:
    enabled: true
    datasource:
    enabled: true
    metrics:
    web:
    client:
    request:
    autotime:
    enabled: true
    Actuator
    configuration
    Metrics
    configuration
    

    View Slide

34. La CI/CD Besoin
    Les
    connaissanc
    es
    Le contexte
    La
    conception
    Démarrage
    Les
    environneme
    nts
    d’exécution
    L’observabili
    té
    CI/CD
    La
    configuration
    Les logs
    

    View Slide

35. Deux sortes de
    pipelines
    • Création plateforme
    • Build & Deploy
    

    View Slide

36. Platform
    provisionning
    terraform apply
    

    View Slide

37. Application build &
    deploy
    Build
    •Application Java
    •Image Docker
    •Chart Helm
    Tests
    •Tests unitaires et d’integration
    •Smoke tests de la nouvelle image Docker
    Deployment
    •Déploiement continu de la branche develop
    •Déploiement de la release
    

    View Slide

38. Exemple
    Migration Spring Boot, Image Docker, JDK
    Testé en local → Dev → Recette
    ⇒ En 1 jour
    38
    

    View Slide

39. La
    configuration
    Besoin
    Les
    connaissances
    Le contexte La conception
    Démarrage
    Les
    environnements
    d’exécution
    L’observabilité
    CI/CD
    La configuration Les logs
    

    View Slide

40. Comment configurer votre
    application cloud native?
    40
    ▪ Variables d’environnement
    ▪ Config Maps
    ▪ Secrets
    

    View Slide

41. Les variables
    d’environnement
    spec:
    containers:
    - env:
    - name: JAVA_OPTS
    value: >-
    -XX:+UseContainerSupport -XX:MaxRAMPercentage=70.0
    -Dfile.encoding=UTF-8 -
    Djava.security.egd=file:/dev/./urandom
    41
    

    View Slide

42. Les config maps
    apiVersion: v1
    kind: ConfigMap
    metadata:
    creationTimestamp: 2021-03-11T18:38:34Z
    name: my-config-map
    [...]
    data:
    JAVA_OPTS: >-
    -XX:+UseContainerSupport -XX:MaxRAMPercentage=70.0
    -Dfile.encoding=UTF-8 -Djava.security.egd=file:/dev/./urandom
    42
    

    View Slide

43. Quid des fichiers
    de configuration ?
    On peut les spécifier “comme des variables” directement
    dans les config maps
    On peut les externaliser
    43
    

    View Slide

44. Les fichiers dans
    les config maps
    volumeMounts:
    - mountPath: /config
    name: configuration-volume
    readOnly: true
    [...]
    volumes:
    - configMap:
    defaultMode: 420
    name: configuration
    name: configuration-volume
    44
    apiVersion: v1
    kind: ConfigMap
    [...]
    data:
    my.conf: {{- (.Files.Glob
    "conf/*").AsConfig | nindent 2 }}
    

    View Slide

45. Limitations
    ▪ Error: UPGRADE FAILED: ConfigMap "my-
    service" is invalid: data: Too long: must
    have at most 1048576 characters
    

    View Slide

46. Externaliser les
    valeurs
    apiVersion: autoscaling/v1
    kind: HorizontalPodAutoscaler
    metadata:
    labels:
    [...]
    spec:
    maxReplicas: {{ .Values.myapp.maxReplicaCount }}
    minReplicas: {{ .Values.myapp.minReplicaCount }}
    [...]
    targetCPUUtilizationPercentage: {{ .Values.myapp.replicationThreesold }}
    46
    

    View Slide

47. Le fichier
    values.yml
    myapp:
    minReplicaCount: "2"
    maxReplicaCount: "6"
    replicationThreesold: 80
    47
    

    View Slide

48. Les templates de
    fichier
    apiVersion: v1
    kind: ConfigMap
    metadata:
    name: configuration
    labels:
    [...]
    data:
    application.properties:
    |-
    {{ tpl (.Files.Get "conf/application.properties") . | nindent 4}}
    48
    

    View Slide

49. Les templates
    Le fichier application.properties
    logging.level.org.hibernate.stat={{
    .Values.configmap.application.org_hib
    ernate_stat }}
    logging.level.org.springframework.sec
    urity={{
    .Values.configmap.application.org_spr
    ingframework_security }}
    49
    Le fichier values.yml
    configmap:
    application:
    org_hibernate_stat: ERROR
    org_springframework_security:
    ERROR
    

    View Slide

50. Les fichiers
    binaires
    apiVersion: v1
    # Definition of secrets
    kind: Secret
    [...]
    type: Opaque
    # Inclusion of binary configuration files
    data:
    my_keystore.jks: {{ .Files.Get "secrets/my_keystore.jks" | b64enc }}
    50
    

    View Slide

51. Logger
    efficacement
    Besoin
    Les
    connaissances
    Le contexte La conception
    Démarrage
    Les
    environnements
    d’exécution
    L’observabilité
    CI/CD
    La configuration Les logs
    

    View Slide

52. L’utilisation des
    logs
    Dans la console:
    kubectl logs --tail
    Agrégateur de logs (ex. ELK)
    52
    

    View Slide

53. Flux de sortie des
    containers Docker
    stdout & stderr
    Inutile de configurer la sortie vers des fichiers
    53
    

    View Slide

54. Bonnes pratiques
    Indiquer dans vos LOGS:
    Les éléments de votre conteneur (Image, containerID,...)
    Les éléments de contexte K8S (IP POD, ID POD,
    namespace,...)
    Log4j Docker Support – Log4j Kubernetes Support
    54
    

    View Slide

55. Distributed tracing
    Vous pouvez identifier et corréler vos différents appels
    dans votre plateforme microservices en implémentant
    OpenTracing.
    55
    

    View Slide

56. View Slide

57. Sur GCP
    ▪ Vous avez par défaut:
    □ Un explorateur de logs (Google Logs Explorer ~ELK)
    □ Un rapport d’ erreurs (~ dashboard ELK)
    □ Un analyseur de traces distribuées
    57
    

    View Slide

58. View Slide

59. Error Reporter
    ▪ Par défaut, il agrège toutes les erreurs de votre
    plateforme
    ▪ Vous pouvez également ajouter vos erreurs business
    (ex. HTTP 500)
    59
    

    View Slide

60. View Slide

61. Distributed tracing
    61
    

    View Slide

62. En résumé
    62
    

    View Slide

63. Evitez le hype driven
    development
    Pensez à votre
    organisation
    Travaillez sur
    l’observabilité dès les
    premières étapes
    Automatisez tout
    (ou presque)
    

    View Slide

64. Merci!
    Des questions?
    64
    

    View Slide