Rancherを使ったKubernetes運用 / CNDK2019-Rancher

1. STRICTLY CONFIDENTIAL 2019/11/28 Alpaca Japan Shinya Sasaki Rancherを使ったKubernetes運用
2. STRICTLY CONFIDENTIAL Who? Shinya Sasaki Head of Infrastructure Engineering at AlpacaJapan Co., Ltd. Osaka, Japan 2
3. STRICTLY CONFIDENTIAL Alpaca Japan 3 3 3 金融 x 機械学習 がテーマのスタートアップ 主な提供サービス/プロダクト ❖ 銀行・証券会社・信託銀行を中心に 金融機関向けのトレーディング AI技術で多くの実績を保持 「相場予測モデルの構築」 のプロジェクトで 協業 「AlpacaSearch for kabu.com」 
 相互に類似している銘柄のチャートパターン を表示
 「AI外貨予測」「AI外貨積立」 
 指定した外貨の為替の変動を予測し、予測 した日に一定金額を積立 可能
 主要マーケットの短期予測 をリアルタイムで表示 
 
 弊社の大規模データ処理 の技術やディープラーニン グ技術を活用したアプリ ケーション

4. STRICTLY CONFIDENTIAL Top-10 Artificial Intelligence Startups in Japan https://prtimes.jp/main/html/rd/p/000000016.000015818.html
5. STRICTLY CONFIDENTIAL AlpacaJapanのインフラ 基本的にはKubernetes上に構築 (移行中のもありますが) • 予測モデル作成 • GPUが大量に必要 • バッチ処理 • 大量データの集計 • CPUが大量に必要 • サービス提供 • 結果をユーザに提供 • Webアプリケーション 5 オンプレ Amazon EKS Amazon EKS
6. STRICTLY CONFIDENTIAL kubernetes運用を始めると出てきた課題 6 1. クラスタの増加 2. 利用ユーザの増加 3. 利用シーンの増加
7. STRICTLY CONFIDENTIAL 1. クラスタの増加 どのレベルでクラスタをつくるか？ • マルチテナント • 1つ、もしくは大きなクラスタで運用 • 用途ごとにNamespaceを分ける • シングルテナント • 用途ごとに個々にクラスタをつくる • サービスごと • 環境(Production、Staging、Development)ごと 7
8. STRICTLY CONFIDENTIAL 1. クラスタの増加 どのレベルでクラスタをつくるか？ • マルチテナント • 1つ、もしくは大きなクラスタで運用 • 用途ごとにNamespaceを分ける • シングルテナント • 用途ごとに個々にクラスタをつくる • サービスごと • 環境(Production、Staging、Development)ごと 8
9. STRICTLY CONFIDENTIAL 2. 利用ユーザの増加 • 運用負荷の増加 • 利用方法の説明 • クラスタ追加時のアクセス方法の通知 • kubeconfigの配布 • アクセス権 • ユーザごとに権限を変えたい • Namespaceレベル • リソースレベル • RW/RO 9
10. STRICTLY CONFIDENTIAL 3. 利用シーンの増加 • 環境の違い • 普段はセットアップされたローカルPC or Macからkubectlを実行 • 一時的にローカル環境使えない場合とか • ユーザーごとのKubernetes理解度、利用頻度の違い • このコンテナ実行したいだけなんだけど • このyaml実行したいだけなんだけど 10
11. STRICTLY CONFIDENTIAL
12. STRICTLY CONFIDENTIAL 1. クラスタの増加への対応 • 複数のAPI URL、kubeconfig 12
13. STRICTLY CONFIDENTIAL 1. クラスタの増加への対応 • 複数のAPI URL、kubeconfig 13 RancherのURLさえわかっていれば
14. STRICTLY CONFIDENTIAL 2. 利用ユーザの増加への対応 • 運用負荷の増加 • 利用方法の説明 • クラスタ追加時のアクセス方法の通知 • kubeconfigの配布 • アクセス権 • ユーザごとに権限を変えたい • Namespaceレベル • リソースレベル • RW/RO 14
15. STRICTLY CONFIDENTIAL 2. 利用ユーザの増加への対応 • 運用負荷の増加 • 利用方法の説明 • クラスタ追加時のアクセス方法の通知 • kubeconfigの配布 • アクセス権 • ユーザごとに権限を変えたい • Namespaceレベル • リソースレベル • RW/RO 15 外部認証に対応 クラスタごと、プロジェクトごと にユーザ権限が設定可能
16. STRICTLY CONFIDENTIAL 2. 利用ユーザの増加への対応 • 運用負荷の増加 • 利用方法の説明 • クラスタ追加時のアクセス方法の通知 • kubeconfigの配布 • アクセス権 • ユーザごとに権限を変えたい • Namespaceレベル • リソースレベル • RW/RO 16 ユーザに権限を付与すれば、 アクセス可能なクラスタ /プロ ジェクトのみ表示
17. STRICTLY CONFIDENTIAL 3. 利用シーンの増加への対応 • 環境の違い • 普段はセットアップされたローカルPC or Macからkubectlを実行 • 一時的にローカル環境使えない場合とか • ユーザーごとのKubernetes理解度、利用頻度の違い • このコンテナ実行したいだけなんだけど • このyaml実行したいだけなんだけど 17
18. STRICTLY CONFIDENTIAL 3. 利用シーンの増加への対応 • 環境の違い • 普段はセットアップされたローカルPC or Macからkubectlを実行 • 一時的にローカル環境使えない場合とか • ユーザーごとのKubernetes理解度、利用頻度の違い • このコンテナ実行したいだけなんだけど • このyaml実行したいだけなんだけど 18 ブラウザ上でのkubectl yamlファイルのコピペ GUIでのコンテナ、パラメータ指定 複数のデプロイ方法に対応
19. STRICTLY CONFIDENTIAL 現在の構成 19
20. STRICTLY CONFIDENTIAL まとめ • Kubernetesを利用が増えてくると出てくる課題 • クラスタの増加 • 利用ユーザの増加 • 利用シーンの増加 • Rancherでこれらの課題に対応 20
21. STRICTLY CONFIDENTIAL Thank you