Микросервисы, кто-то только слышал о них, кто-то пытался делать, кто-то уже использует в продакшене. Идеи, заложенные в концепцию микросервисов, не новы и основные постулаты уже звучали раньше. Так почему же в последнее время мы всё чаще слышим о микросервисах? Что такое микросервисы для нас и чем они отличаются от старого доброго подхода SOA? Как теперь разрабатывать enterprise-приложения с микросервисным подходом на нашем любимом языке программирования Java? На эти и некоторые другие вопросы постараемся ответить во время встречи. Наши гости, Кирилл Толкачёв и Александр Тарасов, в режиме live coding попытаются создать небольшой стартап, попутно использовав новомодные подходы и инструменты. На пути к релизу стартапа будут затронуты основные проблемы выбранных подходов в целом и технологий в частности: Микросервис — что это, для чего и как с этим дальше жить. Где теория брат? ;) На чём писать API: REST или RPC, и почему Thrift имеет право на жизнь в эпоху тотального распространения JSON-а. Упрощай и превозмогай с помощью Spring boot starter; Какой стек выбрать для разработки, что выбрали мы и почему. Небольшое сравнение легковесных и не очень java фреймворков а так же сопутствующих инструментов; Способы упаковки, дистрибуции и разворачивания микросервисов, как Spring Boot и Docker помогают нам в решении этих непростых для разработчика проблемах; Как микросервисам найти друг друга, как готовить Spring Cloud и как обойти существующие проблемы и ограничения. Не доверяйте технологиям, доверяйте только себе; API Gateway. Предохраняй и сохраняй свои микросервисы. Так же речь пойдет о других распространенных проблемах распределенных систем и их решениях.

1. микроСЕРВИСЫ
огонь, вода, медные трубы

2. @tolkv
2

3. @aatarasoff
3

4. микроСЕРВИСЫ
огонь, вода, медные трубы

5. DISCLAIMER
Наше мнение может не совпадать с официальной
позицией банка, начальника, коллег или других
специалистов. Мы не претендуем на роль
последней инстанции в вопросах использования
той или иной технологии. Все представленные
решения вы можете использовать на свой страх и
риск. За все ваши действия ответственность несёте
только вы сами.
5

6. Agenda
1. Past
2. Present
3. Future
6

7. Agenda
1. Past
2. Present
3. Future
7

8. 8

9. 9

10. Ball of Mud
10

11. 11

12. SOA Principles
● standardized service contract
● loose coupling
● encapsulation
● reusability
● autonomy
● statelessness
● discoverability
12

13. 13

14. UDDI
● Никто не говорит и никто не знает ;)
● Но все же. Кто знает что это и зачем это?
● А кто внедрял ? :)
14

15. Прекрасная технология
15

16. Как это выглядит? “Тогда”
16

17. Как это выглядит? “Сейчас”
Oracle SOA Governance
17

18. Как это выглядит? “Сейчас”
18
@UDDIService(
businessKey="uddi:myBusinessKey",
serviceKey="uddi:myServiceKey",
description = "Hello World test service")
@UDDIServiceBinding(
bindingKey="uddi:myServiceBindingKey",
description="WSDL endpoint for the hello${department} Service. This service is
used for testing the jUDDI annotation functionality",
accessPointType="wsdlDeployment",
accessPoint="http://localhost:8080/juddiv3-samples/services/helloworld?wsdl")

19. Okay, перейдем по ссылке
19

20. Никто не хочет UDDI
20

21. <S:Envelope>
<S:Header>
...
<Security S:actor="null" S:mustUnderstand="...">
...
</Security>
...
</S:Header>
...
</S:Envelope>
…а реализация врозь
Не все реализации клиентов могут так сделать :(
21

22. 22

23. Никто не любит “некрасивые” технологии
поэтому они умирают

24. А что с людьми?
● Что волновало людей тогда?
● Их волновало то, как не использовать
технологию
● Сейчас эта книга до сих пор продается. 20$
Ничто не не вечно :)
2004 год
24

25. А что ещё?
25

26. Выводы
26

27. Agenda
1. Past
2. Present
3. Future
27

28. 28
Про тренды

29. 29

30. In short, the microservice architectural style is an approach to developing
a single application as a suite of small services, each running in its own
process and communicating with lightweight mechanisms, often an HTTP
resource API. These services are built around business capabilities and
independently deployable by fully automated deployment machinery.
There is a bare minimum of centralized management of these services,
which may be written in different programming languages and use
different data storage technologies.
-- James Lewis and Martin Fowler
Что такое микросервисы?
30

31. Определение
1. Набор маленьких сервисов
a. насколько маленьких?
31

32. Размер имеет значение?
● Method/Function = Microservice?
● 10-300 LOC = Microservice?
● 1 week = Microservice?
● 1 developer = Microservice?
32

33. Размер не имеет значения*
● Single Responsibility
● One capability
● Bounded context
“In your organization, you should be thinking not in terms
of data that is shared, but about the capabilities those
contexts provide the rest of the domain.”
– Sam Newman, Building Microservices
*до разумных пределов конечно
33

34. Domain-Driven Development
34

35. Пример
Микросервис платежей
- принимает платеж и проводит его
- но платежей много типов
- а если внешние системы?
- а если каждый тип разный для разных
групп пользователей?
35

36. Определение
1. Набор маленьких сервисов
a. насколько маленьких?
2. Изоляция и независимый деплой
36

37. Process segregation
37

38. Независимый деплой
build test
38

39. Trade-off
- name: copy nginx config
sudo: yes
template:
src: "nginx.conf"
dest: "{{nginx_config_dir}}/project1.conf"
tags: copy_nginx_config
- name: copy nginx config
sudo: yes
template:
src: "nginx.conf"
dest: "{{nginx_config_dir}}/project2.conf"
tags: copy_nginx_config
server {
server_name {{ hostname }}.superproject;
}
server {
server_name {{ hostname }}.superproject;
}
39

40. Failed
40

41. Определение
1. Набор маленьких сервисов
a. насколько маленьких?
2. Изоляция и независимый деплой
3. Децентрализация
41

42. Language/technology segregation
42

43. Data segregation
43

44. Team segregation
44

45. Trade-off
- N языков программирования
- M в среднем фреймворков на язык
- L типов источников данных
complexity = N * M * L
45

46. Пример
- три языка программирования
- два в среднем фреймворка на язык
- семь типов источников данных
- legacy WS
- mongo db
- реляционная БД (oracle)
- хранимые процедуры
- JDBC templates/ORM
- elasticsearch
- neo4j/orient db
- мишкина база
complexity = 3 * 2 * 7 = 42 (!)
46

47. 42!!!
47

48. Ключевые характеристики
● Domain-Driven Design
● Single responsibility
● Independent DURS
○ deploy, update, replace, scale
● Lightweight contract and communication
● Segregation
○ people
○ technologies
48

49. Ключевое приемущество
Вывод: микросервисы ради того, чтобы не
впихивать невпихуемое
49

50. Так на чём писать микросервисы?
50

51. min (N * M * L) -> max (L)
51
Закон трёх букв

52. А что есть в мире Java?
● Java EE
● Spring Boot/Spring Cloud
● Ratpack
● Dropwizard
● Vert.x
● Restlet
● Spark
52

53. Почему Spring Boot/Spring Cloud?
53

54. Почему Spring Boot/Spring Cloud?
● Развитая экосистема
● Неограниченные возможности кастомизации и
интеграции новых фреймворков
● Не только REST/HTTP
● Великолепные возможности мониторинга
54

55. А теперь попробуем
55

56. Demo

59. Demo -> Deploy Time

60. Service Discovery
60

61. 61

62. 62

63. Service Registry
63

64. Netflix Eureka
64
● Как работает heartbeat?
● Как работает healthcheck?
eureka.instance.leaseRenewalIntervalInSeconds: 3
eureka.instance.leaseExpirationDurationInSeconds: 3

65. Boo
65

66. Consul + Docker
https://github.com/docker/docker/issues/8795
docker run --net=host
--privileged --rm
cap10morgan/conntrack
production way! :)
66

67. Boo
67

68. Demo -> Time to Discover

69. 69

70. Где мой порт?
70

71. 71

72. Какие есть варианты?
● Nginx/Haproxy + consul template
● Haproxy + bamboo (need marathon)
● Netflix Zuul (Java way!!!)
● Custom Servlet <- все с этого начинают!
72

73. Nginx + consul_template
{{range services}}
upstream {{.Name}} {
least_conn;
{{range service .Name}}
server {{.Address}}:{{.Port}} max_fails=3 fail_timeout=60 weight=1;
{{else}}server localhost:60000;{{end}}
}
{{end}}
server {
server_name localhost;
{{range services}}
location /{{.Name}}/ {
proxy_pass http://{{.Name}}/;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
}
{{end}}
}
73

74. Nginx + consul_template
upstream hippoapi {
least_conn;
server server1:8080 max_fails=3 fail_timeout=60 weight=1;
server server1:8081 max_fails=3 fail_timeout=60 weight=1;
server server1:8082 max_fails=3 fail_timeout=60 weight=1;
}
server {
server_name localhost;
location /hippoapi/ {
proxy_pass http://hippoapi/;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
}
}
74

75. Bamboo + haproxy + marathon
{ "Marathon": { "Endpoint": "{{bamboo_marathon_endpoint}}", "UseEventStream": true },
"Bamboo": {
"Endpoint": "{{bamboo_endpoint}}",
"Zookeeper": {
"Host": "{{bamboo_zk_hosts}}",
"Path": "/marathon-haproxy/state",
"ReportingDelay": 5
}},
"HAProxy": {
"TemplatePath": "config/haproxy_template.cfg",
"OutputPath": "/etc/haproxy/haproxy.cfg",
"ReloadCommand": "haproxy -f /etc/haproxy/haproxy.cfg -p /var/run/haproxy.pid -D -sf
$(cat /var/run/haproxy.pid)"
},
"StatsD": { "Enabled": false, "Host": "localhost:8125", "Prefix": "{{bamboo_statsd_prefix}}" }
}
Работает при наличии mesos+marathon :)75

76. Netflix Zuul
76

77. Netflix Zuul
77
POST /myservice?param1=1&param2=2&param3=3
BODY { “order_id”: 1234 }
Что тут может быть не так?
if(request.getMethod().equalsIgnoreCase("POST") && request.getQueryString() !=null) {
StringTokenizer st = new StringTokenizer(this.request.getQueryString(), "&");
while (st.hasMoreTokens()) {
String s = st.nextToken();
int i = s.indexOf("=");
if (i > 0 && s.length() > i + 1) {
String name = s.substring(0, i);
builder.remove(name);
}
}
}
POST /myservice?param1=1&param2=2&param3=3
Окау, добавим свой Zull pre filter

78. Boo
78

79. Demo -> Gateway Time

81. Demo -> FBI Time

82. 82

83. +-------------------------------------------+
| Server |
| (single-threaded, event-driven etc) |
+-------------------------------------------+
| Processor |
| (compiler generated) |
+-------------------------------------------+
| Protocol |
| (JSON, compact, binary etc) |
+-------------------------------------------+
| Transport |
| (raw TCP, HTTP etc) |
+-------------------------------------------+
● Просто*
● Гибко*
● Безопасно*
*по нашему скромному мнению
83
Apache Thrift

84. namespace java info.developerblog.services
struct TUser { #это наш любимый пользователь
1: required i64 userId #а это его идентификатор
}
struct TFbiResponse { #результат вызова сервиса
1: required string lastFink #дата последнего стука ( да, это строка :) )
}
service TFbiService { #а это наш сервис
TFbiResponse fink( #метод “постучи в ФБР”
1: required TUser user,
2: required i32 hippoCount,
3: required i32 fee
)
}
84

85. Demo -> RPC Time

86. Безопасность
86

87. Защита на уровне сервиса
87

88. Защита на уровне сервиса #2
88

89. Опять этот gateway
89

90. REST/HTTP
Authorization: Bearer <TOKEN>
ClientID: <ID>
90

91. Thrift API Gateway
service InternalTestService {
SomeReturnData getSomeData(
1: UserData userData,
2: RequestData requestData
) throws (1: SomeException e);
}
91

92. Thrift API Gateway
service InternalTestService {
SomeReturnData getSomeData(
1: UserData userData,
2: RequestData requestData
) throws (1: SomeException e);
}
service ExternalTestService {
SomeReturnData getSomeData(
1: AuthToken authData,
2: RequestData requestData
) throws (1: SomeException e,
99: UnauthorizedException ue);
}
92

93. int startPosition = findStartPosition(protocol);
TBase userData = exchanger.process(
extractAuthToken(protocol,exchanger.createEmptyAuthToken())
);
int endPosition = findEndPosition(protocol);
return mergeArrays(
getSkippedPart(protocol, startPosition),
serializeUserData(protocolFactory, userData),
getAfterTokenPart(protocol, endPosition, thriftBody.length)
);
93

94. 94

95. Springway
@SpringBootApplication
@EnableThriftGateway
public class Application {
public static void main(String[] args) {
SpringApplication.run(Application.class, args);
}
}
95

96. Demo -> Thrift the Ripper

99. Основные возможности
● Fallbacks
● Gracefull degradation
● Concurrency Execution
● Request Collapsing
● Caching
● Metrics polling
99

100. Demo -> Hystrix the Saviour

102. Boo
102

103. Типичная микросервисная архитектура
103

104. 104

105. А что в этих ваших интернетах?

106. И чё?
Гибкость
Поддерживаемость
● Микросервисы это непросто
○ orchestration
○ discovery
○ fallback
Скорость

107. И чё?
● В Spring-е нет:
○ @ThriftHandler
○ @ThriftClient
○ @EnableThriftGateway
● Consul Cloud -> 1.0.0.M3

108. Помните SOAP ?
Микросервисы тоже не бесплатный обед

109. Agenda
1. Past
2. Present
3. Future
109

110. 110

111. Operational requirements
● Orchestration (DURS)
● Service discovery
● Monitoring
● Resiliency
● Culture
111

112. 112
https://xebialabs.com/periodic-table-of-devops-tools/

113. Docker etc.
113

114. Docker evolution
114

115. Эра PAAS
● Mesos + Marathon framework
● Kubernetes
● Cloud foundry
● Other..
○ Heroku
○ Tutum
○ Mesosphere DCOS
○ ... 115

116. 116
Network

117. HTTP/2
● HTTP/2 Client (Java SE)
○ http://openjdk.java.net/jeps/110
● Servlet 4.0 (HTTP/2)
○ https://www.jcp.org/en/jsr/detail?id=369
117

118. grpc.io
● http/2
● только async / netty
● protobuf 3
118

119. Hello grpc world!
service Greeter {
rpc SayHello (HelloRequest) returns (HelloReply) {}
}
message HelloRequest {
string name = 1;
}
message HelloReply {
string message = 1;
}
public static interface Greeter {
public void sayHello(HelloRequest request,
StreamObserver<HelloReply> responseObserver);
}
119

120. Zuul 2.0
● websocket support
● migrate to netty
120

121. Docker Network
http://developerblog.info/2015/11/16/splendors-and-miseries-of-docker-network/
● синтаксический сахар
○ docker network create --driver bridge mynet
● пока проблемы с multi-host сетями
○ несколько сетевых интерфейсов
○ рудиментарный DNS
○ плагины не работают/не на 100%
121

122. Docker Network + Spring Consul Cloud
https://github.com/spring-cloud/spring-cloud-consul/issues/115
public static InetAddress getFirstNonLoopbackAddress() {
///
for (Enumeration<NetworkInterface> enumNic = NetworkInterface.getNetworkInterfaces();
enumNic.hasMoreElements(); ) {
///
}
///
}
eth0 - overlay
eth1 - bridge
122

123. Ooops
123

124. Java SE 9
● Jigsaw
○ http://openjdk.java.net/jeps/200
● Java Reactive JEP 266 (не в 9ке видимо)
○ http://openjdk.java.net/jeps/266
124

125. Eureka 2.0
● server group
● guaranted instance id uniqueness
● fast and simple replication
● write cluster/read cluster
125

126. Event Sourcing / CQRS / SAGA
http://gotocon.com/dl/goto-chicago-2015/slides/CaitieMcCaffrey_ApplyingTheSagaPattern.pdf
126

127. 127

128. 128

129. Saga guarantee
● T1 -> T2 -> T3 -> … -> Tn
● T1 -> T2 -> … Tn -> Cn … -> C2 -> C1
129

130. 130

131. 131

132. 132

133. 133
DDDD (4D)

134. Выводы. Микросервисы...
134
1. должны работать как единая система для
предоставления законченной функциональности
2. дают вам опции, как тестировать и где тестировать
ваш код
3. дают возможность закладывать нужные оси
вариативности в вашу архитектуру (да да,
подготавливаемся вставлять костыли на любых
уровнях!)
4. предполагают, что вы готовы вникать в вещи, не
связанные непосредственно с кодом продукта (а это
80% времени)
5. принесут вам радость, только если налажен CD,
иначе только боль

135. 135

136. Ссылки
Оригинальное исполнение
https://github.com/bsideup/thrift-spring-boot-starter
Крутой плагин для Gradle
https://github.com/bsideup/GradleThrift
Forward2Docker
https://github.com/bsideup/forward2docker/releases
136
@bsideup

137. Code. Better. Together.
Spring Thrift Client (Proof of Concept)
https://github.com/aatarasoff/spring-thrift-starter
Thrift API Gateway (Proof of Concept)
https://github.com/aatarasoff/thrift-api-gateway-core
https://github.com/aatarasoff/spring-thrift-api-gateway
Примеры сегодняшнего дня
https://github.com/lavcraft/jug-samples
137

138. Высокие теории
Sam Newman “Building Microservices”
Martin Fowler “Microservice TradeOff” “Microservices”
“The Twelwe-Factor App” http://12factor.net
Hystrix: managing failures in distributed systems - Tomasz Nurkiewicz https:
//www.youtube.com/watch?v=JadVts_prtA
138

139. Спасибо! Ваши вопросы
@tolkv
@aatarasoff
139