Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Speaker Deck
PRO
Sign in
Sign up
for free
AWS CodeBuildを使ったCI環境の構築
KINOSHITA Minoru
October 02, 2019
Programming
2
430
AWS CodeBuildを使ったCI環境の構築
KINOSHITA Minoru
October 02, 2019
Tweet
Share
More Decks by KINOSHITA Minoru
See All by KINOSHITA Minoru
krtx
0
730
krtx
0
210
krtx
0
23
Other Decks in Programming
See All in Programming
williln
0
230
layzee
1
220
kyokomitsuoka
0
120
pirosikick
4
960
coa00
2
180
texmeijin
0
150
ianaya89
2
240
mrtc0
2
1k
takapy
0
200
abeta
1
210
nearmugi
0
190
christianweyer
PRO
0
310
Featured
See All Featured
thoeni
3
610
jasonvnalue
81
8.1k
trallard
14
720
dougneiner
118
7.9k
ufuk
56
5.4k
malarkey
392
61k
erikaheidi
14
4.3k
yeseniaperezcruz
302
31k
lynnandtonic
272
16k
cherdarchuk
71
260k
cassininazir
347
20k
brianwarren
82
4.7k
Transcript
AWS CodeBuildを使った CI環境の構築 2019/10/02 CI/CD Test Night #5
自己紹介 樹下 稔 (KINOSHITA Minoru) • KLab株式会社 ◦ 技術統括部 バックエンドアーキテクチャグループ
+ 案件の仕事 ▪ Jenkinsの話 ▪ Unityのアセットバンドルビルドの話 ▪ CIの話 ▪ ... ◦ 横断的に情報共有しつつ実案件での仕事ができるポジション
話す内容 • AWS CodeBuildを使った並列CI環境構築 • 目新しいことはあまりなく、事例の一つとして聞いてください
目次 • 背景 • CI構成 • 工夫した点、なんとかしたい所
背景 • 案件のメインのサーバリポジトリは自動テストが1時間以上かかる ◦ 以前はローカルマシンでやっていた(手動) • AWSが案件で既に利用中だったので、CodeBuildを使った構成を考えた ◦ CircleCIとかは導入してないので ◦
やってみたいからやった、という気持ちも少なからず...
CI構成 • 要件と方針 • 全体構成 • テストの実行 • ログ
要件と方針 • 並列でビルドできること • なるべく手間をかけないで保守できるようにする →LambdaでCodeBuildを複数起動しよう
CI構成
CI構成 .buildspec/test1.yml .buildspec/test2.yml .buildspec/test3.yml 特定のディレクトリに buildspecファイルを複 数入れておく test1.yml test2.yml test3.yml
Lambdaがbuildspecファ イル毎にCodeBuildを起 動する 全部終了したらGitHub Checksに結果を書き込む &Slackに通知
GitHub Checks
GitHub Checks
CI構成 CodeBuild(buildspec)で対応していないこと、工夫した点 1. 分割して並列実行 2. DBなどのサービス起動 3. ログ閲覧
テストの分割&並列実行 • ベースとなるjsonnetファイルから複数のbuildspecファイルを生成する • buildspecファイルは全てリポジトリにコミット • Lambdaがそれぞれのbuildspecファイルに対してCodeBuildを起動 phases: build: ...
phases: { build: { .... }}
jsonnet test.jsonnet local Test(name) = { person: { name: name,
welcome: "Hello " + name + "!" }, }; { "test-alice.yml": std.manifestYamlDoc(Test("Alice")), "test-bob.yml": std.manifestYamlDoc(Test("Bob")) } test-bob.yml "person": "name": "Bob" "welcome": "Hello Bob!" test-alice.yml "person": "name": "Alice" "welcome": "Hello Alice!" $ jsonnet -S -m . test.jsonnet
DBなどのサービス起動 • docker in dockerができるイメージでdocker-composeを実行する ◦ Pros ▪ 開発用のdocker-composeをそのまま流用できる ▪
ローカルでのCodeBuildのテストも可能になる ◦ Cons ▪ docker-composeのインストールやdockerdの起動など一手間必要 https://github.com/aws/aws-codebuild-docker-images ※CodeBuildのdockerイメージもある
ログ • LambdaでCodeBuildの出力をGitHub Checksに書き込む ◦ 権限の問題 ▪ AWSのアカウントを持っていないメンバーもいる ▪ GitHubなら全員アクセス可能
◦ 使いやすさの問題 ▪ AWSに慣れていないメンバーが多い ▪ CloudWatch Logsは使いにくい ▪ GitHubから直接結果が見れると便利
工夫した点、なんとかしたい点 • 前準備に時間がかかる • 意外とコードを書いてしまった
工夫した点、なんとかしたい点 • 前準備に時間がかかる • 意外とコードを書いてしまった
テストの前準備に時間がかかる • 前準備が(頑張って短縮して)3分程度 ◦ リポジトリのセットアップ ◦ docker imageのpull ◦ テーブル作成、テストデータのinsert
• 前準備のオーバヘッドが大きいと並列数をあげても台数効果が出ない
リポジトリのセットアップについて • たくさんのリポジトリをclone ◦ メインのリポジトリとそのsubmodule ◦ なぜか依存しているリポジトリとそのsubmodule • リポジトリのcloneの仕方を工夫すると時間が削減できる ◦
不要なリポジトリがあるのではないかという話もありつつ…
リポジトリのセットアップについて • 特定のブランチの最新コミットだけcloneする git clone --depth=1 --branch=<branch> <repository> • DL量は減る
リポジトリのセットアップについて • submoduleはブランチ名不明でハッシュしか分からないので git init git remote add origin <repo>
git fetch origin --depth=1 <hash> git reset --hard FETCH_HEAD • これが成功するのは<hash>が特定のrefに紐付いている場合のみ ◦ そうでないときは失敗するので諦めて普通にcloneする
リポジトリのセットアップについて • AWS CodeBuildにはローカルキャッシュの機能がある ◦ ホスト上にdockerイメージやソースリポジトリを保存して使い回す機能 ◦ 今回の場合ストレートには使えない ▪ dindだったり独自にgit
cloneしているため https://aws.amazon.com/jp/about-aws/whats-new/2019/02/aws-codebuild-now-supports-local-caching/ 任意のディレクトリをキャッシュできるのでやればできると思うが、キャッシュの生存期間は有限らしいので努力 に見合う効果があるのか?と思って試していない・・・
工夫した点、なんとかしたい点 • 前準備に時間がかかる • 意外とコードを書いてしまった
意外とコードを書いてしまった • ありものを使うので自前の処理はそこまで多くない想定だった • 実際にはLambda(js)を500行程度書いた ◦ buildspecファイルを探して指定 ◦ ビルド時間に制限 ◦
通知先チャンネルの指定 ◦ テストが全部終了したことを確認して通知 • 保守コストをほぼなくせるのではないかという目論見は外れた
意外とコードを書いてしまった • 汎用性(別リポジトリでの利用)のため独自CI機能を実装した ◦ .buildspec/meta.yml ▪ 複数ビルドがすべて終了したときにどのチャンネルに通知するか ▪ pushイベントに対して自動的にビルドを実行するブランチの指定 •
releaseブランチなど ◦ 既存CIサービスと比較すると当然見劣りする ▪ 頑張って作る必要があるかどうか微妙
まとめ • CodeBuildを使った並列ビルド環境を作った ◦ Lambdaでリポジトリの設定を読み込みCodeBuildを複数起動する ◦ GitHubからログが見れて便利 • 思ったよりコードを書いてしまった問題 ◦
保守コストに難 • リポジトリのセットアップに時間がかかる問題 ◦ cloneの仕方を工夫してある程度解決