Кирилл Толкачёв, Александр Тарасов — микроСЕРВИСЫ огонь, вода, медные трубы

Микросервисы, кто-то только слышал о них, кто-то пытался делать, кто-то уже использует в продакшене. Идеи, заложенные в концепцию микросервисов, не новы и основные постулаты уже звучали раньше. Так почему же в последнее время мы всё чаще слышим о микросервисах? Что такое микросервисы для нас и чем они отличаются от старого доброго подхода SOA? Как теперь разрабатывать enterprise-приложения с микросервисным подходом на нашем любимом языке программирования Java?

На эти и некоторые другие вопросы постараемся ответить во время встречи. Наши гости, Кирилл Толкачёв и Александр Тарасов, в режиме live coding попытаются создать небольшой стартап, попутно использовав новомодные подходы и инструменты.

На пути к релизу стартапа будут затронуты основные проблемы выбранных подходов в целом и технологий в частности:
- Микросервис — что это, для чего и как с этим дальше жить. Где теория брат? ;)
- На чём писать API: REST или RPC, и почему Thrift имеет право на жизнь в эпоху тотального распространения JSON-а. Упрощай и превозмогай с помощью Spring boot starter;
- Какой стек выбрать для разработки, что выбрали мы и почему. Небольшое сравнение легковесных и не очень java фреймворков а так же сопутствующих инструментов;
- Способы упаковки, дистрибуции и разворачивания микросервисов, как Spring Boot и Docker помогают нам в решении этих непростых для разработчика проблемах;
- Как микросервисам найти друг друга, как готовить Spring Cloud и как обойти существующие проблемы и ограничения. Не доверяйте технологиям, доверяйте только себе;
- API Gateway. Предохраняй и сохраняй свои микросервисы.

Также речь пойдет о других распространенных проблемах распределенных систем и их решениях.

Transcript

1. микроСЕРВИСЫ огонь, вода, медные трубы
2. @tolkv 2
3. @aatarasoff 3
4. микроСЕРВИСЫ огонь, вода, медные трубы
5. DISCLAIMER Наше мнение может не совпадать с официальной позицией банка, начальника, коллег или других специалистов. Мы не претендуем на роль последней инстанции в вопросах использования той или иной технологии. Все представленные решения вы можете использовать на свой страх и риск. За все ваши действия ответственность несёте только вы сами. 5
6. Agenda 1. Past 2. Present 3. Future 6
7. Agenda 1. Past 2. Present 3. Future 7
10. Ball of Mud 10
12. SOA Principles • standardized service contract • loose coupling • encapsulation • reusability • autonomy • statelessness • discoverability 12
14. UDDI • Никто не говорит и никто не знает ;) • Но все же. Кто знает что это и зачем это? • А кто внедрял ? :) 14
15. Прекрасная технология 15
16. Как это выглядит? “Тогда” 16
17. Как это выглядит? “Сейчас” Oracle SOA Governance 17
18. Как это выглядит? “Сейчас” 18 @UDDIService( businessKey="uddi:myBusinessKey", serviceKey="uddi:myServiceKey", description = "Hello World test service") @UDDIServiceBinding( bindingKey="uddi:myServiceBindingKey", description="WSDL endpoint for the hello${department} Service. This service is used for testing the jUDDI annotation functionality", accessPointType="wsdlDeployment", accessPoint="http://localhost:8080/juddiv3-samples/services/helloworld?wsdl")
19. Okay, перейдем по ссылке 19
20. Никто не хочет UDDI 20
21. <S:Envelope> <S:Header> ... <Security S:actor="null" S:mustUnderstand="..."> ... </Security> ... </S:Header> ... </S:Envelope> …а реализация врозь Не все реализации клиентов могут так сделать :( 21
23. Никто не любит “некрасивые” технологии поэтому они умирают
24. А что с людьми? • Что волновало людей тогда? • Их волновало то, как не использовать технологию • Сейчас эта книга до сих пор продается. 20$ Ничто не не вечно :) 2004 год 24
25. А что ещё? 25
26. Выводы 26
27. Agenda 1. Past 2. Present 3. Future 27
28. 28 Про тренды
30. In short, the microservice architectural style is an approach to developing a single application as a suite of small services, each running in its own process and communicating with lightweight mechanisms, often an HTTP resource API. These services are built around business capabilities and independently deployable by fully automated deployment machinery. There is a bare minimum of centralized management of these services, which may be written in different programming languages and use different data storage technologies. -- James Lewis and Martin Fowler Что такое микросервисы? 30
31. Определение 1. Набор маленьких сервисов a. насколько маленьких? 31
32. Размер имеет значение? • Method/Function = Microservice? • 10-300 LOC = Microservice? • 1 week = Microservice? • 1 developer = Microservice? 32
33. Размер не имеет значения* • Single Responsibility • One capability • Bounded context “In your organization, you should be thinking not in terms of data that is shared, but about the capabilities those contexts provide the rest of the domain.” – Sam Newman, Building Microservices *до разумных пределов конечно 33
34. Domain-Driven Development 34
35. Пример Микросервис платежей - принимает платеж и проводит его - но платежей много типов - а если внешние системы? - а если каждый тип разный для разных групп пользователей? 35
36. Определение 1. Набор маленьких сервисов a. насколько маленьких? 2. Изоляция и независимый деплой 36
37. Process segregation 37
38. Независимый деплой build test 38
39. Trade-off - name: copy nginx config sudo: yes template: src: "nginx.conf" dest: "{{nginx_config_dir}}/project1.conf" tags: copy_nginx_config - name: copy nginx config sudo: yes template: src: "nginx.conf" dest: "{{nginx_config_dir}}/project2.conf" tags: copy_nginx_config server { server_name {{ hostname }}.superproject; } server { server_name {{ hostname }}.superproject; } 39
40. Failed 40
41. Определение 1. Набор маленьких сервисов a. насколько маленьких? 2. Изоляция и независимый деплой 3. Децентрализация 41
42. Language/technology segregation 42
43. Data segregation 43
44. Team segregation 44
45. Trade-off - N языков программирования - M в среднем фреймворков на язык - L типов источников данных complexity = N * M * L 45
46. Пример - три языка программирования - два в среднем фреймворка на язык - семь типов источников данных - legacy WS - mongo db - реляционная БД (oracle) - хранимые процедуры - JDBC templates/ORM - elasticsearch - neo4j/orient db - мишкина база complexity = 3 * 2 * 7 = 42 (!) 46
47. 42!!! 47
48. Ключевые характеристики • Domain-Driven Design • Single responsibility • Independent DURS ◦ deploy, update, replace, scale • Lightweight contract and communication • Segregation ◦ people ◦ technologies 48
49. Ключевое приемущество Вывод: микросервисы ради того, чтобы не впихивать невпихуемое 49
50. Так на чём писать микросервисы? 50
51. min (N * M * L) -> max (L) 51 Закон трёх букв
52. А что есть в мире Java? • Java EE • Spring Boot/Spring Cloud • Ratpack • Dropwizard • Vert.x • Restlet • Spark 52
53. Почему Spring Boot/Spring Cloud? 53
54. Почему Spring Boot/Spring Cloud? • Развитая экосистема • Неограниченные возможности кастомизации и интеграции новых фреймворков • Не только REST/HTTP • Великолепные возможности мониторинга 54
55. А теперь попробуем 55
56. Demo
59. Demo -> Deploy Time
60. Service Discovery 60
63. Service Registry 63
64. Netflix Eureka 64 • Как работает heartbeat? • Как работает healthcheck? eureka.instance.leaseRenewalIntervalInSeconds: 3 eureka.instance.leaseExpirationDurationInSeconds: 3
65. Boo 65
66. Consul + Docker https://github.com/docker/docker/issues/8795 docker run --net=host \ --privileged --rm \ cap10morgan/conntrack production way! :) 66
67. Boo 67
68. Demo -> Time to Discover
70. Где мой порт? 70
72. Какие есть варианты? • Nginx/Haproxy + consul template • Haproxy + bamboo (need marathon) • Netflix Zuul (Java way!!!) • Custom Servlet <- все с этого начинают! 72
73. Nginx + consul_template {{range services}} upstream {{.Name}} { least_conn; {{range service .Name}} server {{.Address}}:{{.Port}} max_fails=3 fail_timeout=60 weight=1; {{else}}server localhost:60000;{{end}} } {{end}} server { server_name localhost; {{range services}} location /{{.Name}}/ { proxy_pass http://{{.Name}}/; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; } {{end}} } 73
74. Nginx + consul_template upstream hippoapi { least_conn; server server1:8080 max_fails=3 fail_timeout=60 weight=1; server server1:8081 max_fails=3 fail_timeout=60 weight=1; server server1:8082 max_fails=3 fail_timeout=60 weight=1; } server { server_name localhost; location /hippoapi/ { proxy_pass http://hippoapi/; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; } } 74
75. Bamboo + haproxy + marathon { "Marathon": { "Endpoint": "{{bamboo_marathon_endpoint}}", "UseEventStream": true }, "Bamboo": { "Endpoint": "{{bamboo_endpoint}}", "Zookeeper": { "Host": "{{bamboo_zk_hosts}}", "Path": "/marathon-haproxy/state", "ReportingDelay": 5 }}, "HAProxy": { "TemplatePath": "config/haproxy_template.cfg", "OutputPath": "/etc/haproxy/haproxy.cfg", "ReloadCommand": "haproxy -f /etc/haproxy/haproxy.cfg -p /var/run/haproxy.pid -D -sf $(cat /var/run/haproxy.pid)" }, "StatsD": { "Enabled": false, "Host": "localhost:8125", "Prefix": "{{bamboo_statsd_prefix}}" } } Работает при наличии mesos+marathon :) 75
76. Netflix Zuul 76
77. Netflix Zuul 77 POST /myservice?param1=1&param2=2&param3=3 BODY { “order_id”: 1234 } Что тут может быть не так? if(request.getMethod().equalsIgnoreCase("POST") && request.getQueryString() !=null) { StringTokenizer st = new StringTokenizer(this.request.getQueryString(), "&"); while (st.hasMoreTokens()) { String s = st.nextToken(); int i = s.indexOf("="); if (i > 0 && s.length() > i + 1) { String name = s.substring(0, i); builder.remove(name); } } } POST /myservice?param1=1&param2=2&param3=3 Окау, добавим свой Zull pre filter
78. Boo 78
79. Demo -> Gateway Time
81. Demo -> FBI Time
83. +-------------------------------------------+ | Server | | (single-threaded, event-driven etc) | +-------------------------------------------+ | Processor | | (compiler generated) | +-------------------------------------------+ | Protocol | | (JSON, compact, binary etc) | +-------------------------------------------+ | Transport | | (raw TCP, HTTP etc) | +-------------------------------------------+ • Просто* • Гибко* • Безопасно* *по нашему скромному мнению 83 Apache Thrift
84. namespace java info.developerblog.services struct TUser { #это наш любимый пользователь 1: required i64 userId #а это его идентификатор } struct TFbiResponse { #результат вызова сервиса 1: required string lastFink #дата последнего стука ( да, это строка :) ) } service TFbiService { #а это наш сервис TFbiResponse fink( #метод “постучи в ФБР” 1: required TUser user, 2: required i32 hippoCount, 3: required i32 fee ) } 84
85. Demo -> RPC Time
86. Безопасность 86
87. Защита на уровне сервиса 87
88. Защита на уровне сервиса #2 88
89. Опять этот gateway 89
90. REST/HTTP Authorization: Bearer <TOKEN> ClientID: <ID> 90
91. Thrift API Gateway service InternalTestService { SomeReturnData getSomeData( 1: UserData userData, 2: RequestData requestData ) throws (1: SomeException e); } 91
92. Thrift API Gateway service InternalTestService { SomeReturnData getSomeData( 1: UserData userData, 2: RequestData requestData ) throws (1: SomeException e); } service ExternalTestService { SomeReturnData getSomeData( 1: AuthToken authData, 2: RequestData requestData ) throws (1: SomeException e, 99: UnauthorizedException ue); } 92
93. int startPosition = findStartPosition(protocol); TBase userData = exchanger.process( extractAuthToken(protocol,exchanger.createEmptyAuthToken()) ); int endPosition = findEndPosition(protocol); return mergeArrays( getSkippedPart(protocol, startPosition), serializeUserData(protocolFactory, userData), getAfterTokenPart(protocol, endPosition, thriftBody.length) ); 93
95. Springway @SpringBootApplication @EnableThriftGateway public class Application { public static void main(String[] args) { SpringApplication.run(Application.class, args); } } 95
96. Demo -> Thrift the Ripper
99. Основные возможности • Fallbacks • Gracefull degradation • Concurrency Execution • Request Collapsing • Caching • Metrics polling 99
100. Demo -> Hystrix the Saviour
102. Boo 102
103. Типичная микросервисная архитектура 103
105. А что в этих ваших интернетах?
106. И чё? Гибкость Поддерживаемость • Микросервисы это непросто ◦ orchestration ◦ discovery ◦ fallback Скорость
107. И чё? • В Spring-е нет: ◦ @ThriftHandler ◦ @ThriftClient ◦ @EnableThriftGateway • Consul Cloud -> 1.0.0.M3
108. Помните SOAP ? Микросервисы тоже не бесплатный обед
109. Agenda 1. Past 2. Present 3. Future 109
111. Operational requirements • Orchestration (DURS) • Service discovery • Monitoring • Resiliency • Culture 111
112. 112 https://xebialabs.com/periodic-table-of-devops-tools/
113. Docker etc. 113
114. Docker evolution 114
115. Эра PAAS • Mesos + Marathon framework • Kubernetes • Cloud foundry • Other.. ◦ Heroku ◦ Tutum ◦ Mesosphere DCOS ◦ ... 115
116. 116 Network
117. HTTP/2 • HTTP/2 Client (Java SE) ◦ http://openjdk.java.net/jeps/110 • Servlet 4.0 (HTTP/2) ◦ https://www.jcp.org/en/jsr/detail?id=369 117
118. grpc.io • http/2 • только async / netty • protobuf 3 118
119. Hello grpc world! service Greeter { rpc SayHello (HelloRequest) returns (HelloReply) {} } message HelloRequest { string name = 1; } message HelloReply { string message = 1; } public static interface Greeter { public void sayHello(HelloRequest request, StreamObserver<HelloReply> responseObserver); } 119
120. Zuul 2.0 • websocket support • migrate to netty 120
121. Docker Network http://developerblog.info/2015/11/16/splendors-and-miseries-of-docker-network/ • синтаксический сахар ◦ docker network create --driver bridge mynet • пока проблемы с multi-host сетями ◦ несколько сетевых интерфейсов ◦ рудиментарный DNS ◦ плагины не работают/не на 100% 121
122. Docker Network + Spring Consul Cloud https://github.com/spring-cloud/spring-cloud-consul/issues/115 public static InetAddress getFirstNonLoopbackAddress() { /// for (Enumeration<NetworkInterface> enumNic = NetworkInterface.getNetworkInterfaces(); enumNic.hasMoreElements(); ) { /// } /// } eth0 - overlay eth1 - bridge 122
123. Ooops 123
124. Java SE 9 • Jigsaw ◦ http://openjdk.java.net/jeps/200 • Java Reactive JEP 266 (не в 9ке видимо) ◦ http://openjdk.java.net/jeps/266 124
125. Eureka 2.0 • server group • guaranted instance id uniqueness • fast and simple replication • write cluster/read cluster 125
126. Event Sourcing / CQRS / SAGA http://gotocon.com/dl/goto-chicago-2015/slides/CaitieMcCaffrey_ApplyingTheSagaPattern.pdf 126
129. Saga guarantee • T1 -> T2 -> T3 -> … -> Tn • T1 -> T2 -> … Tn -> Cn … -> C2 -> C1 129
133. 133 DDDD (4D)
134. Выводы. Микросервисы... 134 1. должны работать как единая система для предоставления законченной функциональности 2. дают вам опции, как тестировать и где тестировать ваш код 3. дают возможность закладывать нужные оси вариативности в вашу архитектуру (да да, подготавливаемся вставлять костыли на любых уровнях!) 4. предполагают, что вы готовы вникать в вещи, не связанные непосредственно с кодом продукта (а это 80% времени) 5. принесут вам радость, только если налажен CD, иначе только боль
136. Ссылки Оригинальное исполнение https://github.com/bsideup/thrift-spring-boot-starter Крутой плагин для Gradle https://github.com/bsideup/GradleThrift Forward2Docker https://github.com/bsideup/forward2docker/releases 136 @bsideup
137. Code. Better. Together. Spring Thrift Client (Proof of Concept) https://github.com/aatarasoff/spring-thrift-starter Thrift API Gateway (Proof of Concept) https://github.com/aatarasoff/thrift-api-gateway-core https://github.com/aatarasoff/spring-thrift-api-gateway Примеры сегодняшнего дня https://github.com/lavcraft/jug-samples 137
138. Высокие теории Sam Newman “Building Microservices” Martin Fowler “Microservice TradeOff” “Microservices” “The Twelwe-Factor App” http://12factor.net Hystrix: managing failures in distributed systems - Tomasz Nurkiewicz https: //www.youtube.com/watch?v=JadVts_prtA 138
139. Спасибо! Ваши вопросы @tolkv @aatarasoff 139