[JBreak] Блеск и Нищета Распределенных Стримов

Slide 1

Slide 1 text

Этот слайд пустой… Так надо…

Slide 2

Slide 2 text

Áëåñê è íèùåòà ðàñïðåäåëåííûõ ñòðèìîâ @gAmUssA @hazelcast #jbreak #hazelcastjet http://bit.ly/streams_jbreak2017

Slide 3

Slide 3 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Solutions Architect Developer Advocate @gamussa в интернетах А ты зафоловил меня в Twitter? © > Кто?

Slide 4

Slide 4 text

@gAmUssA @hazelcast #jbreak #hazelcastjet О чем поговорим? Стримы в Java 8 Распределяй и властвуй Распределенные стримы Как? Зачем?

Slide 5

Slide 5 text

No content

Slide 6

Slide 6 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Пример: Считаем слова Map, где ключ - номер строки, а значение – строка из файла. Сколько раз каждое слово встречается? найти Top X слов *

Slide 7

Slide 7 text

No content

Slide 8

Slide 8 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Что для этого надо? Проходим по всем строкам в файле Разбиваем строки на слова Обновляем значение счетчика по каждому слову

Slide 9

Slide 9 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Что будем считать?

Slide 10

Slide 10 text

No content

Slide 11

Slide 11 text

fillMapWithData("pestni.txt", source); for (String line : source.values()) { for (String word : PATTERN.split(line)) { if (word.length() >= 5) counts.compute( cleanWord(word).toLowerCase(), (w, c) -> c == null ? 1L : c + 1 ); } }

Slide 12

Slide 12 text

Проходим по всем строкам в файле fillMapWithData("pestni.txt", source); for (String line : source.values()) { for (String word : PATTERN.split(line)) { if (word.length() >= 5) counts.compute( cleanWord(word).toLowerCase(), (w, c) -> c == null ? 1L : c + 1 ); } }

Slide 13

Slide 13 text

Разбиваем строки на слова fillMapWithData("pestni.txt", source); for (String line : source.values()) { for (String word : PATTERN.split(line)) { if (word.length() >= 5) counts.compute( cleanWord(word).toLowerCase(), (w, c) -> c == null ? 1L : c + 1 ); } }

Slide 14

Slide 14 text

Обновляем значение счетчика по каждому слову fillMapWithData("pestni.txt", source); for (String line : source.values()) { for (String word : PATTERN.split(line)) { if (word.length() >= 5) counts.compute( cleanWord(word).toLowerCase(), (w, c) -> c == null ? 1L : c + 1 ); } }

Slide 15

Slide 15 text

java.util.stream

Slide 16

Slide 16 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Стримы в Java 8… Абстракция для представления последовательности элементов Не является самостоятельной структурой «проводят» элемент через конвейер преобразований Не меняют источника данных

Slide 17

Slide 17 text

No content

Slide 18

Slide 18 text

@gAmUssA @hazelcast #jbreak #hazelcastjet java.util.stream map(), flatMap(), filter() reduce(), collect() sorted(), distinct() Intermediate operation Terminal operation Stateful Intermediate (Blocking) operation

Slide 19

Slide 19 text

No content

Slide 20

Slide 20 text

No content

Slide 21

Slide 21 text

No content

Slide 22

Slide 22 text

No content

Slide 23

Slide 23 text

No content

Slide 24

Slide 24 text

No content

Slide 25

Slide 25 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Нельзя просто так взять… © Параллельное выполнение возможно только внутри одного процесса JVM (читай parallelStream) Дизайн подразумевает локальные данные Несериализуемые лямбды используются API Результаты выполнения так же несериализуемые

Slide 26

Slide 26 text

@gAmUssA @hazelcast #jbreak #hazelcastjet А что если… © Параллельное выполнение межу JVM процессами Иметь распределенные данные Поддержка сериализации лямбд Сериализуемые результаты и распределенные данные

Slide 27

Slide 27 text

http://cs.yale.edu/homes/xs45/pdf/ssgos-vldb2014.pdf

Slide 28

Slide 28 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Что нам стоит распределенный стрим построить Stream extends DistributedStream DistributedStream extends Stream Что-то еще?

Slide 29

Slide 29 text

No content

Slide 30

Slide 30 text

No content

Slide 31

Slide 31 text

No content

Slide 32

Slide 32 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Why would one need a cluster?

Slide 33

Slide 33 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Problem Data doesn’t fit just one machine

Slide 34

Slide 34 text

Данных слишком много, чтобы они поместились на одной машине

Slide 35

Slide 35 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Данные слишком важны, чтобы хранить их на одной машине

Slide 36

Slide 36 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Oracle Coherence In-memory data grid Распределенные кэши RemoteStreams Коммерческий продукт

Slide 37

Slide 37 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Oracle Coherence Map collect = source.stream() .flatMap(m -> Stream.of(PATTERN.split(m.getValue()))) .map(String::toLowerCase) .map(WordUtil::cleanWord) .filter(m -> m.length() >= 5) .collect(RemoteCollectors.toMap(ve1, ve2, Integer::sum));

Slide 38

Slide 38 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Infinispan In-memory data grid распределённые кэши Куча всяких интеграций Лицензия Apache v2

Slide 39

Slide 39 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Еще хотелки… Простота знакомый API встраиваемость Cloud Native

Slide 40

Slide 40 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Для тех кто в танке - Hazelcast IMDG In-memory Data Grid Бесплатно Apache v2 Распределенные Кэши (IMap, JCache) Java коллекции (IList, ISet, IQueue) Обмен сообщениями (Topic, RingBuffer) Вычисления (ExecutorService, M-R)

Slide 41

Slide 41 text

1 900 звездочек GitHub 100% Open Source 134 контрибьютера

Slide 42

Slide 42 text

No content

Slide 43

Slide 43 text

No content

Slide 44

Slide 44 text

No content

Slide 45

Slide 45 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Green Primary Green Backup Green Shard

Slide 46

Slide 46 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Ну и в чем же проблема? IMap.values().stream() ? или IMap.entrySet().stream() ? 4 6

Slide 47

Slide 47 text

Slide 48

Slide 48 text

No content

Slide 49

Slide 49 text

4 9 Jet Streams

Slide 50

Slide 50 text

jet.hazelcast.org

Slide 51

Slide 51 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Что такое Jet? Библиотека для распределенных вычислений Основана на описании модели с помощью графа Основана на Hazelcast IMDG Будем сравнивать Spark or Flink 5 1

Slide 52

Slide 52 text

@gAmUssA @hazelcast #jbreak #hazelcastjet DAG vertex vertex vertex vertex SOURCE SINK

Slide 53

Slide 53 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Исполнение графа Каждая нода кластера исполняет граф целиком

Slide 54

Slide 54 text

No content

Slide 55

Slide 55 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Исполнение графа Каждая нода кластера исполняет граф целиком Каждая вершина графа исполняется набором tasklet-ов Ограниченное число «настоящих» потоком ~ кол-во процессоров Work-stealing между потоками Back pressure между вершинами

Slide 56

Slide 56 text

Áåí÷ìàðêè Сравниваем Spark, Flink, Hadoop используя WordCount Кластер: 9 нод, 40 ядер на каждой

Slide 57

Slide 57 text

https://github.com/hazelcast/big-data-benchmark

Slide 58

Slide 58 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Сравним с обычными стримами

Slide 59

Slide 59 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Надо брать пока горячо!!! jet.hazelcast.org hazelcast/hazelcast-jet http://bit.ly/streams_jbreak2017 документация Код на github Материалы презентации

Slide 60

Slide 60 text

@gAmUssA @hazelcast #jbreak #hazelcastjet В качестве заключения Стримы предоставляют функциональный API для запросов и агрегаций

Slide 61

Slide 61 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Распределенные стримы Параллелизация на кластере Запись данных на кластер Стабильные результаты даже при падениях нод

Slide 62

Slide 62 text

No content

Slide 63

Slide 63 text

SlidesCarnival icons are editable shapes. This means that you can: ● Resize them without losing quality. ● Change fill color and opacity. Isn’t that nice? :) Examples:

Slide 64

Slide 64 text

Now you can use any emoji as an icon! And of course it resizes without losing quality and you can change the color. How? Follow Google instructions https://twitter.com/googledocs/status/730087240156643328 ✋❤ and many more...

Slide 65

Slide 65 text

@gAmUssA @hazelcast #jbreak #hazelcastjet Extra graphics