20181107-gitlab-women-mikit.pdf

Transcript

1. gitlab ci pipeline 活⽤TIPSと要望 GitLab Women (GitLab Meetup Tokyo #11) NTTコミュニケーションズ株式会社 技術開発部 ⾼⽥ 美紀
2. ⾃⼰紹介 • ⾼⽥ 美紀 (たかた みき) @mikit_t • NTTコミュニケーションズ株式会社 – 技術開発部: 研究開発部⾨ – テーマ: データ分析基盤の構築と運⽤ • DSL: Data Science Lab – dnsops.jp 幹事 • private – うさぎ – ⾼校3年JK: 吹奏楽 – 写真 2018/11/7 2 GitLab Women (GitLab Meetup Tokyo #11)
3. 2018/11/7 GitLab Women (GitLab Meetup Tokyo #11) 3 Ｆx Ｆx 蓄積 分析 可視化 収集 ホットデータ データ収集・ETL コールドデータ 分析処理(SQL) Ｆ DSL@オンプレ環境 DSL@クラウド環境 Metabase & 異常検知処理 R Markdown リアルタイム分析 バッチ分析 ・Docker上に各ミドルウェアを配置して実施する⽅針としている。 DSLの分析基盤の概要
4. 2018/11/7 GitLab Women (GitLab Meetup Tokyo #11) 4 DSL基盤 論理構成(⼀部抜粋) kafka01 〜 07 core01 〜 03 note01 〜 03 Docker Docker Swarm 2375 2377 Docker 2375 kubem tesla01 〜 04 Kubernetes 6443 Docker 2375
5. Gitlab利⽤状況 • Oldest created project: 2013/10 • ユーザ数: 231 2018/11/7 GitLab Women (GitLab Meetup Tokyo #11) 5
6. .GITLAB-CIをCRONTAB的に使う 本題 2018/11/7 GitLab Women (GitLab Meetup Tokyo #11) 6
7. スケジュール設定 5,15,25,35,45,55 * * * * 0 4 * * * 7 0,6,9,12,15,18,21 * * * 7 3 * * * 2018/11/7 GitLab Women (GitLab Meetup Tokyo #11) 7 スケジュール
8. 各々のスケジュール設定 • 別々の時間帯に、それぞ れ別々のスクリプトを実 ⾏したい • 起動時間などとともに、 環境変数を設定しておく 2018/11/7 GitLab Women (GitLab Meetup Tokyo #11) 8
9. 別々のjobを⾛らせるために • .gitlab-ci.ymlでのステージ設定 – 環境変数が設定されていなければ exit 2018/11/7 GitLab Women (GitLab Meetup Tokyo #11) 9
10. 実⾏されないjobの結果 • 実⾏すべきタイミングでない(=環境変数が設 定されてない)場合、Job succeeded で終了 2018/11/7 GitLab Women (GitLab Meetup Tokyo #11) 10
11. pipeline表⽰が… • Succededで終わる関係上、いつ、どのjobが 実⾏されたか、わからない! 2018/11/7 GitLab Women (GitLab Meetup Tokyo #11) 11
12. その他の困りごと • アカウントロック→jobが全部inactiveにL – アカウントに紐づいたjobを⼀覧したい – もしかしてAPIで簡単にできたりする? 2018/11/7 GitLab Women (GitLab Meetup Tokyo #11) 12