Slide 1

Slide 1 text

金融業界のデータ処理ボトルネックを突破 技術革新の旅

Slide 2

Slide 2 text

会社紹介 SBI BITSは、SBIグループの金融IT 戦略の要として設立されました。 金融ビジネス領域の拡大における課 題解決の支援(コンサルティング) や、オープンソースソフトウェアを 有効活用したソフトウェア開発、 DBのパフォーマンス分析及びチュ ーニング等幅広いサービス提供を行 っています。 https://www.sbibits.com/

Slide 3

Slide 3 text

自己紹介 木内 祐介 SBI BITS データコンサルティング部 DBAチーム所属 運用保守に関わる業務に従事 顔写真、またはイメージ

Slide 4

Slide 4 text

アジェンダ ● SBIグループ内の分析基盤システムの背景と課題 ● TiDBの検討経緯と採用理由 ● 運用面からみたTiDBの魅力 ● 実際のテストで遭遇した問題と解決 ● 今後に向けて

Slide 5

Slide 5 text

背景 ●過去の膨大なマーケットデータを蓄 積し、意思決定・予測等に活用 課題 ●日々増える膨大なデータ量に対し、 既存のDBが性能を発揮できていない ●当局からの照会に備えた履歴データ の保存方法 SBIグループ内の分析基盤

Slide 6

Slide 6 text

検討経緯 ●TiDB v2の頃に検討を開始、多数のテストを実施 ●いくつかの課題があり採用に至らず 採用理由 ●TiDB v5とv6での機能拡張 ●オンライン拡張やHTAPなどの 機能強化 TiDBの検討経緯と採用理由

Slide 7

Slide 7 text

● TiUPでのクラスタ全体の管理 ● DashboardとGrafanaによる豊富な性能統計パネルの提供 ● データの読み書きをより安定させるためのパラメータを提供 ● TiDB DMやTiDB Lightningを使用し、 データ移行が簡単で速い ● TiDB BR による様々なバックアップへの対応 運用面でのTiDBの魅力(1)

Slide 8

Slide 8 text

● TiDB CDCツールでデータセンター間の同期が可能 ● 既存のDB利用者にも理解しやすい最適化手法 ● TiFlashによる運用の簡素化、並列処理の実現 ● 業界のセキュリティ認証と互換性のある、暗号化や監査 ログなどのセキュリティ機能 運用面でのTiDBの魅力(2)

Slide 9

Slide 9 text

● TiDBの問題ではないが、 PrometheusがOOMなどのエラー によりクラッシュした際、復旧 時のLog Applyに時間がかかり、 その間監視が停止する ● 検証環境の用意にかかるリソー スをResource Controlを用いて解 決、複数環境を同居させ対応。 テストで遭遇した課題と解決

Slide 10

Slide 10 text

● データベース全体のサイズが今後 300TB~600TBに達することが予想 される。 ● 従来のDBでは困難なサイズだが、 PingCAPの技術スタッフと協力して 挑戦していきたい。 今後の展望