Les Lois Universelles de la Perfomance - TNT23

Transcript

1. #TNT23
   Les lois universelles
   

   de la performance
   Raphaël Luta - @raphaelluta
   

   

   View Slide

2. #TNT23
   1
   

   View Slide

3. #TNT23
   C'est trop lent !
   Temps total de référence
   T1
   2
   

   View Slide

4. #TNT23
   Paralléliser pour aller plus vite
   Tn
   = T1
   σ +
   T1
   (1 − σ)
   n
   sérialisée
   σ parallélisable
   1 − σ
   T1
   T2
   T4
   4
   

   View Slide

5. #TNT23
   Limites de l'accélération parallèle
   A(n) =
   T1
   Tn
   Accélération
   1
   2
   3
   4
   5
   6
   7
   8
   9
   10
   Parallélisme
   1 2 3 4 5 6 7 8 9 10
   0 0.01 0.05 0.1 0.5
   σ
   A(n) =
   n
   1 + σ(n − 1)
   Loi d'Amdahl
   48-6
   Accélération:
   

   View Slide

6. #TNT23
   Exemple: Collections Parallèles
   val data=(1 to 1000*1000).toParArray
   
   
   val poolSize = 4
   
   
   val pool = new ForkJoinPool(poolSize)
   
   
   data.tasksupport = new ForkJoinTaskSupport(pool)
   
   
   data.sum
   
   
   Nombre Threads Durée (ms) Accélération
   1 2.802 1.00
   2 1.775 1.58
   3 1.551 1.81
   4 1.474 1.90
   yqypsu1osl
   7*3*2
   

   View Slide

7. QUEUES
   QUEUES EVERYWHERE
   

   View Slide

8. #TNT23
   Anatomie d'une
   fi
   le d'attente
   λ
   Débit d'arrivée
   moyen
   μ
   Débit de service
   moyen
   Taille maximale

   fi
   le d'attente
   Nombre de
   serveurs
   Discipline
   G / G / 1 / ∞ / FCFS
   ?
   ?
   ?
   M
   D
   G
   Memoryless
   Deterministic
   Generalized
   Loi d'arrivée
   ?
   ?
   ?
   M
   D
   G
   Memoryless
   Deterministic
   Generalized
   Loi de service
   3*2*7
   

   View Slide

9. #TNT23
   Mensurations d'une
   fi
   le d'attente
   λ μ
   L
   Nombre d'éléments
   dans le système
   Temps d'attente
   dans la
   fi
   le
   W
   R
   Temps de résidence
   S
   Temps
   de service
   Taux
   d'utilisation
   ρ ρ =
   λ
   μ
   S =
   1
   μ
   R = W + S
   L = λR
   Loi de Little
   Relations entre les mesures
   6*7
   

   View Slide

10. #TNT23
    Lequel de ces 2 systèmes possède les meilleurs
    performances ?
    Backlog mutualisé / pull
    Débit d'arrivée:
    7 tickets/jour
    Temps de service:
    0,5 jour
    Temps moyen ticket: 1,25 j
    Tickets en attente: 5
    Temps moyen ticket: 4 j
    Tickets en attente: 24
    14*3
    Backlog personnel / push
    

    View Slide

11. #TNT23
    Modélisation de système
    Web
    
    
    Server
    DB
    Requests
    Requests Responses
    Responses
    84/2
    

    View Slide

12. #TNT23
    Comportement théorique d'une G/G/1
    λ
    ρ
    1
    μ
    0
    utilisation
    débit
    ρ
    W
    1
    utilisation
    temps
    d'attente
    W ≈ (
    ρ
    1 − ρ
    )S(
    c2
    λ
    + c2
    μ
    2
    ) Approximation de Kingman
    zi75prbwll
    44-2
    

    View Slide

13. #TNT23
    Mesures de latence d'une API
    tvziz8ng6s
    wrk2 -t1 -d120 -c10 -R $R --latency $URL; 30 ≤ R ≤ 300
    21*2
    

    View Slide

14. #TNT23
    Modélisation de système
    Web
    
    
    Server
    DB
    Requests
    Système ouvert
    Requests Responses
    Système fermé
    Request
    Response
    Users
    Responses
    21+21
    

    View Slide

15. #TNT23
    Mesures en système fermé
    Temps de réponse moyen
    0
    10
    20
    30
    40
    50
    60
    70
    80
    Nombre de connexions
    1 3 5 7 9 11 13 15 17 19
    Requêtes / sec
    0
    50
    100
    150
    200
    250
    300
    Nombre de connexions
    1 3 5 7 9 11 13 15 17 19
    wrk2 -t1 -d120 -c $c --latency $URL; 1 ≤ c ≤ 20
    42/1 https://github.com/giltene/wrk2
    

    View Slide

16. #TNT23
    Comportement d'un système fermé
    Réponse
    N utilisateurs
    envoient des
    requêtes toutes les
    Z secondes
    Traitement prends
    S secondes
    X(N)
    X(N) =
    N
    1 − σ(N − 1)
    σ =
    S
    S + Z
    avec
    40+2
    Débit de requête
    

    View Slide

17. #TNT23
    La loi d'extensibilité universelle
    USL(n) =
    cn
    1 + σ(n − 1) + κn(n − 1)
    Pénalité de contention Pénalité de cohérence
    0 ≤ σ ≤ 1 0 ≤ κ ≤ 1
    c ≥ 1
    Taux de concurrence
    izpkxtggul
    42
    

    View Slide

18. #TNT23
    Exemples d'application
    • API
    
    
    • Job Spark
    
    
    • Node.js @ Paypal
    
    
    • Zookeeper
    https://www.desmos.com/calculator/ljl4f7tkty
    https://www.desmos.com/calculator/azpji2vamz
    https://www.desmos.com/calculator/ckyauwf2mv
    https://www.desmos.com/calculator/d0qctxdjwd
    6*6+6
    https://www.desmos.com/calculator/4ol6hieyca
    

    View Slide

19. #TNT23
    Récapitulatif
    

    View Slide

20. #TNT23
    La modélisation des systèmes
    • Permet de compléter les approches de mesures empiriques pour:
    
    
    • Quali
    fi
    er le bon fonctionnement
    
    
    • Anticiper des comportements anormaux
    
    
    • Plani
    fi
    er des évolutions
    9*5-3
    

    View Slide

21. #TNT23
    Comprendre votre contexte d'utilisation...
    Système ouvert Système fermé
    Requests Responses
    Requests
    Responses
    7*6
    

    View Slide

22. #TNT23
    Pour anticiper les modes de panne
    λ
    R
    débit
    temps
    de résidence
    N
    R
    utilisateurs
    temps
    de résidence
    S
    S
    μ
    36+6
    

    View Slide

23. #TNT23
    Universal Scalability Law
    43-1
    

    View Slide

24. #TNT23
    Evolutivité des
    process et des
    organisations
    Scaling Organisations
    48-6
    

    View Slide

25. #TNT23
    Pour aller plus loin...
    • Guerilla Capacity Planning de Neil Gunther
    
    
    • The Essential Guide to Queueing Theory de Baron Schwartz / Vivid
    Cortex
    
    
    • Practical Scalability Analysis with U.S.L. de Baron Schwartz / Vivid Cortex
    
    
    • usl4j and you by Coda Hale
    
    
    • Queues Calculators:
    

    https://www.supositorio.com/rcalc/rcalclite.htm
    7*5+7
    

    View Slide

26. #TNT23
    Merci
    https://bit.ly/lois-performance-tnt23
    Illustrations: © Walt Disney - Pixar
    

    View Slide