ペタバイト級IoTデータを高速に管理するスケールアウト型データベース GridDB

2020-11-19 14:40
#dbts053【DB(データ管理)】
【053】ペタバイト級IoTデータを高速に処理するスケールアウト型データベースGridDB 講師：服部 雅一
GridDBはスケールアウトとスケールアップの合わせ技で、少ないサーバ台数でもペタバイト級データをミリ秒オーダーで処理できるDBです。日本データベース学会の「令和元年度業績賞」を受賞したGridDBは製造現場のIoT・ビッグデータに適用に活用されています。本セッションではGridDBの技術を説明していただきます。
登壇者
東芝デジタルソリューションズ
ソフトウェアシステム技術開発センター シニアフェロー
服部 雅一

db tech showcase ONLINE 2020
https://db-tech-showcase.com/dbts/2020/online

Transcript

1. © 2020 Toshiba Digital Solutions Corporation dbtech showcase 2020 東芝デジタルソリューションズ株式会社 服部 雅一 ペタバイト級IoTデータを高速に処理する スケールアウト型データベースGridDB
2. 2 © 2020 Toshiba Digital Solutions Corporation 日本データベース学会の第4回「業績賞」受賞 「GridDB®」の研究・開発、製品化への取り組みが、DB技術と産業の発展に貢献し たと評価
3. 3 © 2020 Toshiba Digital Solutions Corporation 背景 GridDBの特長 ラムダアーキテクチャからの脱却 OSSについて 01 02 03 04
4. 4 © 2020 Toshiba Digital Solutions Corporation 01 背景
5. 5 © 2020 Toshiba Digital Solutions Corporation 社会インフラでも大規模なIoTデータが出現 • ビジネスの価値源泉は”データ” 電 力 製造業 鉄道・交通 物 流 地域・社会 • 電力託送の使用量計算・料 金計算 • 発電の遠隔監視 • 産業用機器の監視 • 製造工場の品質管理 • 製造工場の歩留り向上､ 生産性向上 • 鉄道の輸送計画 • 運行監視 • 配送用トラック荷物の 監視・分析 • スマートXXX • 地域の家庭､ビル､工場施設 等の統合管理 収集層 蓄積層 分析・利活用層 •IT機器の普及 •5Gなどネットワーク技術 •ＡＩや大規模データ分析 処理技術 •GPU大規模コンピューティング ？ • 支える側の技術進化
6. 6 © 2020 Toshiba Digital Solutions Corporation Why … GridDB ? ［Ⅰ］高い信頼性 • アプリの多くはミッションクリティカル • ベストエフォートはNG ［Ⅱ］高い拡張性 • 増大し続けるデータ量 • 台数の増加による処理性能の向上→”スケールアウト” ［Ⅲ］高い処理能力 • 秒やミリ秒の間隔で発生する大量のデータ • 発生直後からリアルタイムに参照や加工などのデータ処理 RDB • 性能が低い。データが増えた時に対応できない。 HDFS • リアルタイム性能が悪い。信頼性が低い。 NoSQL • 信頼性が低い。
7. 7 © 2020 Toshiba Digital Solutions Corporation GridDBの位置づけ DBノード (サーバー) スケールアウト型データベースGridDB [1]高い信頼性 [2]高い拡張性 [3]高い処理能力 スケール アウト IoTデータ 分析・利活用 ネットワーク
8. 8 © 2020 Toshiba Digital Solutions Corporation 02 GridDBの特長
9. 9 © 2020 Toshiba Digital Solutions Corporation 拡張性 “スケールアウト”の課題 2CPU 4GB 〈ノード増設への対応〉 〈台数増→ノード障害への対応〉
10. 10 © 2020 Toshiba Digital Solutions Corporation 従来のDBクラスタ • トレードオフ 「データの分散化」 → データの一貫性が弱くなる 逆に「一貫性を強める」 → パフォーマンスが落ちる 管理ノード DBノード DBノード DBノード クライアント 仲介ノード FSノード FSノード FSノード データ複製 データ配置 要求 〈マスタースレーブ方式の場合〉 • データの一貫性を維持しやすい • クライアントとDBノードの間に存在する管理ノード や仲介ノードがボトルネック →パフォーマンス低下を引き起こす。
11. 11 © 2020 Toshiba Digital Solutions Corporation GridDBの自律型DBクラスタ データ複製(レプリカ)
12. 12 © 2020 Toshiba Digital Solutions Corporation GridDBの自律型DBクラスタ 〈ノード障害への対応〉 〈ノード増設への対応〉
13. 13 © 2020 Toshiba Digital Solutions Corporation DBクラスタ構成の比較 管理ノード DBノード DBノード DBノード クライアント 仲介ノード FSノード FSノード FSノード データ複製 データ配置 要求 DBノード (マスタノード) DBノード DBノード クライアント データ複製 データ配置 要求 〈GridDB〉 自律的なDBクラスタ技術 ADDA 〈従来技術〉 • 管理ノードや仲介ノードは存在せず →通信コストなどの間接コストが無い • ノードの追加削除やレプリカの欠損を検知し、 安定的なデータ再配置を行う →無停止でのスケールアウトを実現
14. 14 © 2020 Toshiba Digital Solutions Corporation NoSQL・SQLデュアルインターフェイス GridDB Cluster DB ノード DB ノード DB ノード NoSQL interface SQL Interface Other DB BI ETL Other system Connection connection = DriverManager.getConnection(uri, user, password); final Statement statement = connection.createStatement(); ResultSet rs = statement.executeQuery( "SELECT * FROM Edge_XX3" + " WHERE sid ='XX1089000.001'" + " AND timestamp >= TIMESTAMP('2017-01-01T00:00:00Z')" + " AND timestamp < TIMESTAMP('2017-01-08T00:00:00Z')); while (rs.next()) { ... GridStore store = GridStoreFactory.getInstance().getGridStore(props); Container<Point> container = store.getContainer("Edge_XX3", Point.class); Query<Point> query = container.query( "SELECT * " + " WHERE sid ='XX1089000.001'" + " AND timestamp >= TIMESTAMP('2017-01-01T00:00:00Z')" + " AND timestamp < TIMESTAMP('2017-01-08T00:00:00Z')" ); RowSet<Point> rs = query.fetch(); while (rs.hasNext()) { ... 違いはクエリ仕様
15. 15 © 2020 Toshiba Digital Solutions Corporation イベントドリブン イベントに基づいて処理が動き始める方式 イベント駆動エンジン システムA システムB e e システムC e イベント イベント イベント
16. 16 © 2020 Toshiba Digital Solutions Corporation イベント駆動によるNoSQL・SQL処理 • CPUのマルチコア，メニーコア化を前提 • 非同期的なデータ処理を絶え間なく実行するイベント駆動方式 クライアント イベント駆動エンジン クライアント 他サーバ 他サーバ SQL 処理 NoSQL 処理 CPU メモリ ディスク • スレッド毎にリソース割り当て • 要求をスレッドへ振り分け • 時分割による同時実行 • ロックフリー化 • バッファ処理の軽量化 • リカバリ処理の軽量化 • ブロック書き込みの最適化 DBノード
17. 17 © 2020 Toshiba Digital Solutions Corporation 高速データ処理技術 DBノード クライアント C0 C1 C2 C3 Val Val Val Val Val Val Val Val Val Val Val Val a@0 C4 C5 C6 Val Val Val Val Val Val Val Val Val b@0 C0 C1 C2 C3 Val Val Val Val Val Val Val Val Val Val Val Val a@1 C4 C5 C6 Val Val Val Val Val Val Val Val Val b@1 C0 C1 C2 C3 Val Val Val Val Val Val Val Val Val Val Val Val a@2 C4 C5 C6 Val Val Val Val Val Val Val Val Val b@2 Task Task Task Task Task Task Task Task Task Task パイプライン並列化 データ並列化 タスク並列化 C0 C2 C７ Val Val Val Val Val Val C0 C2 C6 Val Val Val Val Val Val Val Val Val C0 C2 C6 Val Val Val Val Val Val Val Val Val SQL NoSQL
18. 18 © 2020 Toshiba Digital Solutions Corporation 03 ラムダアーキテクチャからの脱却
19. 19 © 2020 Toshiba Digital Solutions Corporation ファストデータとビッグデータの処理統合 バッチ的な分析処理＋リアルタイム性の高い処理（ファストデータ処理） ＝ラムダアーキテクチャー →構築・運用コストの上昇やシステムの複雑化 バッチ処理 ファストデータ処理 キ ュ ｜ イ ン グ 処 理 データ結合 処理 IoTデータ 分析・利活用
20. 20 © 2020 Toshiba Digital Solutions Corporation ファストデータとビッグデータの処理統合 GridDB NoSQLインターフェイス SQLインターフェイス バッチ処理 ファストデータ処理
21. 21 © 2020 Toshiba Digital Solutions Corporation ファーストデータ処理の性能 0 100 200 300 400 500 600 700 800 900 Workload A Workload B Workload C Workload D Workload E スループット(x1000オペレーション/秒) YCSB ワークロード毎のスループット Cassandra GridDB 25倍 7.5倍 20倍 15.5倍 14.5倍
22. 22 © 2020 Toshiba Digital Solutions Corporation ファーストデータ処理の性能 0 20,000 40,000 60,000 80,000 100,000 120,000 スループット(オペレーション/秒) 登録 InfluxDB GridDB 0 500 1,000 1,500 2,000 2,500 3,000 3,500 4,000 4,500 ワークロードA InfluxDB GridDB 0 500 1,000 1,500 2,000 2,500 3,000 3,500 4,000 4,500 ワークロードB InfluxDB GridDB 6.5倍 7.5倍 6.5倍
23. 23 © 2020 Toshiba Digital Solutions Corporation ビッグデータ処理の性能 0 10 20 30 40 50 60 70 80 90 100 PostgreSQL 1ノード 2ノード 3ノード 4ノード 応答時間の比 TPC-H(SF100) 応答時間 GridDB • PostgreSQL 9.6 • GridDB AE 4.0 • CPU : 8-core Intel® Xeon® E5-2620 v4 2.10GHz • Memory : 64GB • HDD : SAS 12TB • OS : CentOS 7 with kernel 3.10.0-514.el7.x86_64 • Network : 1Gb Ethernet • HDD : SAS 12T • OS : CentOS 7 with kernel 3.10.0-514.el7.x86_64 • Network : 1Gb Ethernet • Dataset : TPC-H(SF 100), Q1-Q8
24. 24 © 2020 Toshiba Digital Solutions Corporation ファストデータとビッグデータの処理統合 • リアルタイム性の高い登録や参照にはNoSQL • 大規模なデータ集約・加工にはSQL という使い方により，ファストデータ処理とビッグデータ処理を一つのDBで扱える。 GridDB NoSQLインターフェイス SQLインターフェイス バッチ処理 ファストデータ処理
25. 25 © 2020 Toshiba Digital Solutions Corporation 04 OSSについて
26. https://github.com/griddb
27. 27 © 2020 Toshiba Digital Solutions Corporation 有力OSSとのコネクティビティ Data Storage Data Collection Analytics Client Libraries Data Processing Visualization Others
28. 28 © 2020 Toshiba Digital Solutions Corporation 従来のNoSQL＋ 2020年6月、SQLインターフェースのソースコード無償公開 https://github.com/griddb
29. 29 © 2020 Toshiba Digital Solutions Corporation SELECT s_name, s_address FROM supplier, nation WHERE s_suppkey IN (SELECT ps_suppkey FROM partsupp WHERE ps_partkey IN (SELECT p_partkey FROM part WHERE p_name LIKE 'forest%') AND ps_availqty > (SELECT 0.5 * Sum(l_quantity) FROM lineitem WHERE l_partkey = ps_partkey AND l_suppkey = ps_suppkey AND l_shipdate >= '1994-01-01' AND l_shipdate < '1995-01-01')) AND s_nationkey = n_nationkey AND n_name = 'CANADA' ORDER BY s_name; TPC-H Q20
30. 30 © 2020 Toshiba Digital Solutions Corporation TPC-H Q20プラン PostgreSQL
31. 31 © 2020 Toshiba Digital Solutions Corporation TPC-H Q20プラン
32. 32 © 2020 Toshiba Digital Solutions Corporation TPC-H Q20プラン lineitem part partsupp nation supplier
33. 33 © 2020 Toshiba Digital Solutions Corporation 今後のOSSリリース計画 2016年2月 オープンソース化 NoSQLインターフェイスのみ 2020年6月 SQLインターフェイス公開 2021年1月 SQLオペレータ高速化や最適化など強化版 2021年3月 ストア一新、V5リリース SQLコンパイラ刷新予定
34. 34 © 2020 Toshiba Digital Solutions Corporation ご清聴、ありがとうございました。 https://github.com/griddb