Latency

My tech talk on Campus Fest in Kazan on 20.02.2016

Transcript

1. Как измерять latency
   Сергей Архипов, MERA
   

   View Slide

2. Agenda
   1. Что такое latency
   2. Как измерять неправильно
   3. Как измерять правильно
   4. Coordinated omission
   

   View Slide

3. 1. Что такое latency
   ResponseTime
   Пользователь Приложение
   

   View Slide

4. 1. Что такое latency
   Пользователь Приложение
   ResponseTime =
   2×ND + Latency
   ResponseTime
   

   View Slide

5. 1. Что такое latency
   Пользователь Приложение
   ResponseTime =
   2×ND + Latency
   lim
   ND→0
   ResponseTime=Latency
   ResponseTime
   

   View Slide

6. 2. Как измерять неправильно
   Что значат эти числа?
   

   View Slide

7. 2. Как измерять неправильно
   Average? Current?
   

   View Slide

8. 2. Как измерять неправильно
   

   View Slide

9. 2. Как измерять неправильно
   f (x)=
   1
   √2πσ2
   e
   −(μ−x)2
   2σ2
   μ,σ−?
   

   View Slide

10. 3. Как измерять правильно
    

    View Slide

11. 3. Как измерять правильно
    avg=2.34718
    p
    25
    =0.757
    p
    50
    =2.34718
    p
    75
    =3.94375
    p
    90
    =5.612
    p
    95
    =6.219
    

    View Slide

12. 3. Как измерять правильно
    

    View Slide

13. 3. Как измерять правильно
    https:/
    /skylight.io
    

    View Slide

14. 3. Как измерять правильно
    avg=2.34718
    p
    25
    =0.757
    p
    50
    =2.34718
    p
    75
    =3.94375
    p
    90
    =5.612
    p
    95
    =6.219
    Для получения результата нужно сделать
    10 запросов
    Сколько секунд займет выполнение запросов
    у 90% клиентов?
    

    View Slide

15. 3. Как измерять правильно
    avg=2.34718
    p
    25
    =0.757
    p
    50
    =2.34718
    p
    75
    =3.94375
    p
    90
    =5.612
    p
    95
    =6.219
    Для получения результата нужно сделать
    10 запросов
    Сколько секунд займет выполнение запросов
    у 90% клиентов?
    10×avg=23.4718
    

    View Slide

16. 3. Как измерять правильно
    avg=2.34718
    p
    25
    =0.757
    p
    50
    =2.34718
    p
    75
    =3.94375
    p
    90
    =5.612
    p
    95
    =6.219
    Для получения результата нужно сделать
    10 запросов
    Сколько секунд займет выполнение запросов
    у 90% клиентов?
    10×avg=23.4718 31.847
    

    View Slide

17. 4. Coordinated omission
    1000 запросов в секунду
    Latency — 1 миллисекунда
    Система простаивает 200
    миллисекунд
    

    View Slide

18. 4. Coordinated omission
    1000 запросов в секунду Latency=200−x
    1 запрос!
    μ=1,p
    90
    =1,p
    99
    =1,avg=1.598
    

    View Slide

19. 4. Coordinated omission
    μ=1,p
    90
    =100,p
    95
    =151,avg=21.588
    

    View Slide

20. @9seconds   
    https:/
    /speakerdeck.com/9seconds/latency
    

    View Slide