Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
10分で詰め込むHadoop
Search
kanga333
April 02, 2018
Technology
0
140
10分で詰め込むHadoop
MicroAd 社内LT会資料
kanga333
April 02, 2018
Tweet
Share
More Decks by kanga333
See All by kanga333
Athenaを使ったバッチ処理のTIPS
kanga333
0
680
個々のアプリのリポジトリでTerraformを管理している話
kanga333
4
3.4k
docker_and_make
kanga333
1
350
CoreOS Container Linuxで始めるベアメタルKubernetes
kanga333
3
8.8k
ORCについて調べた
kanga333
0
180
burrow_monitoring
kanga333
0
760
j2hの紹介
kanga333
0
6.1k
Other Decks in Technology
See All in Technology
watsonx.ai Dojo #5 ファインチューニングとInstructLAB
oniak3ibm
PRO
0
200
AWS re:Invent 2024 Recap in ZOZO - Serverless で好きなものをしゃべってみた
chongmyungpark
0
100
JVM(JavaVM)の性能分析者観点で探るInstanaの可能性
instanautsjp
0
120
サイバー攻撃を想定したセキュリティガイドライン 策定とASM及びCNAPPの活用方法
syoshie
3
1.5k
UI State設計とテスト方針
rmakiyama
3
830
Oracle Cloud Infrastructure:2024年12月度サービス・アップデート
oracle4engineer
PRO
1
290
Storage Browser for Amazon S3
miu_crescent
1
300
能動的ドメイン名ライフサイクル管理のすゝめ / Practice on Active Domain Name Lifecycle Management
nttcom
0
260
最近のSfM手法まとめ - COLMAP / GLOMAPを中心に -
kwchrk
5
1.1k
怖くない!ゼロから始めるPHPソースコードコンパイル入門
colopl
0
180
事業貢献を考えるための技術改善の目標設計と改善実績 / Targeted design of technical improvements to consider business contribution and improvement performance
oomatomo
0
160
小学3年生夏休みの自由研究「夏休みに Copilot で遊んでみた」
taichinakamura
0
190
Featured
See All Featured
Visualization
eitanlees
146
15k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
17
2.3k
Gamification - CAS2011
davidbonilla
80
5.1k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
44
9.3k
Bash Introduction
62gerente
609
210k
Large-scale JavaScript Application Architecture
addyosmani
510
110k
Exploring the Power of Turbo Streams & Action Cable | RailsConf2023
kevinliebholz
28
4.4k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
356
29k
The Cult of Friendly URLs
andyhume
78
6.1k
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
330
21k
Building a Scalable Design System with Sketch
lauravandoore
460
33k
Rails Girls Zürich Keynote
gr2m
94
13k
Transcript
10分で詰め込むHadoop kagawa_shoichi
あらまし Hadoopとはなんぞやという話を10分で詰め込む ざっくり概要と用途について 厳密には違ったりするかもしれんけど、雰囲気伝わるの重視
(広義の)Hadoopとは HDFS, MapReduce等を中心としたビッグデータ処理の ミドルウェア、ライブラリなんかの総称
(狭義の)Hadoopとは 巨大なデータに対するバッチ処理ミドルウェアである HDFS, YARN, MapReduceの事を示す それぞれについては後述
Hadoopのディストリビューション LinuxにおけるRedhat,Ubuntuと同様にHadoopにも ディストリビューションがある 普通はOSSのHadoopを直で使ったりせず なんらかディストリビューションのものを使う 主要なディストリビューションベンダー Cloudera (CDH) Hortonworks (HDP)
MAPR (MARP) Pivotal (Pivotal HD)
主要Hadoopコンポーネント HDFS YARN MapReduce Spark Hive ZooKeeper
HDFS Hadoop Distributed File System 分散ファイルシステム ファイルをブロックという単位で分割して複数サーバに保持 させる
YARN 分散環境のサーバ郡のリソーススケジューラー ジョブが投入された際に、そのジョブをどのサーバ達でどの くらいのCPU/メモリを割り当てて、実行するかを決定する
MapReduce map処理とreduce処理により大規模データを処理する フレームワーク map([ , , ], cook) => [
, , ] reduce([ , , ], eat) =>
Spark ひとまずは、洗練されたMapReduceくらいに思っておけばOK 中間データをオンメモリで持つから高速 MapとReduceのTaskを行うプロセスを区別せず使い回す 色んな便利ライブラリが付いている 機械学習: Spark ML リアルタイム処理: Spark
Streaming SQL: Spark SQL リアルタイム処理 with SQL: Spark Structured Streaming
Hive SQL処理エンジン SQLをMRやSparkなどのジョブに変換してデータを操作 ちなみにHive on SparkとSpark SQLは別物
Zookeeper 対障害性を高めた分散KVS Hadopコンポーネントのメタデータを管理する 分散環境において、どれがマスタなのか?などを管理
その他Hadoopコンポーネント解説 HBase Kudu Kafka Storm/SparkStreaming Impara/Presto
HBase オンメモリ分散列指向DB HDFSではできないデータの更新などができる ただし、メモリに乗り切るくらいのデータしか扱えない とはいえクラスタを組むのでスケールは可能
Kude 分散列指向ストレージ HDFSとHBaseのギャップを埋めるストレージ TB規模のデータをディスクとして持ちながら更新可能 とはいえ HBaseの方が早い HDFSの方が大規模データに対するスループットはある 用途 リアルタイムに更新などが発生する大規模データに対し て分析などのスキャン的な操作もしたい
Kafka 分散キューイングシステム スケール可能なFIFOでPubSubなキュー
Storm / Spark Streaming 分散リアルタイムバッチ処理フレームワーク リアルデータに対して細かくバッチ処理を行う リアルタイム処理フレームワークは乱立していてカオス リアルタイム処理フレームワーク Apache Flink,
Apache Apex, Heron, Kafka streams 各種リアルタイム処理をDSLで書ける Apache Beam リアルタイム処理をGUIで定義 Apache Nifi, Stream Sets リアルタイム処理 with SQL KSQL, Spark Structured Streaming
Impara / Presto 高速な分散SQL処理エンジン SQLをMRやSparkに変換するHiveと比較してSQLを処理する ことに特化して作られており高速 基本的には耐障害性を犠牲にしてスループットを高める設計 データを全部メモリに乗せて処理する バッチよりアドホッククエリ向き 多分Imparaの方が早いし、CDHと親和性高いけど
Prestoの方が汎用性高い
SQL処理エンジン使い分けの一例 ディスクIO多い単純なSQLジョブ > Hive on MR JOINなどの操作を含める複雑なSQLジョブ > Hive on
Spark アドホッククエリ実行環境 > Presto or Impala 機械学習 > Spark SQL と Spark ML
おわりに 各種ミドルウェアの分類MAP(目安) 厳密にはこんなに綺麗に分かれている訳では無い
None