Docker in CI

%PDLFSJO$* https://www.ﬂickr.com/photos/dahlstroms/3144199355

•  ໊લɿதଜ஌੒ !JLJLLP •  ॴଐɿ – #BDLMPHϓϩδΣΫτϚωʔδϟ – +FOLJOTϢʔβձ ⾃⼰紹介

2016年1⽉某⽇

೔ຊʹࡾڌ఺ ෱Ԭຊࣾɺ౦ژɺژ౎ χϡʔϤʔΫࢧࣾ ୆࿷ɺγϯΨϙʔϧɺϕτφϜɺΞϦκφ

国内を中⼼に約3500クライアントが利⽤するプロジェクト管理ツールタスク管理機能に加え、 •  WebDAVによるファイル共有 •  プルリクエスト機能を搭載したGitのリポジトリホスティングなどを提供。 http://www.backlog.jp

全世界約200万ユーザが利⽤するオンラインのドローツール基本的なドローツールの機能に加え複数のユーザで同時に編集出来るリアルタイムコラボレーションなど、コラボレーション機能が充実。 http://cacoo.com/

a . : / . /

•  ΢ΣϒαΠτ •  ࣾ಺πʔϧ •  $* •  ϓϩμΫγϣϯʹ͸·ͩ ヌーラボと Docker

•  δϣϒͷ࣮ߦʹ͔ͭ͏ •  $*ͷΫϥελʔʹ͔ͭ͏ CI でのユースケース

•  $*ΛͱΓ·͘؀ڥ •  $*ͰͷϢʔεέʔε •  ·ͱΊ アジェンダ

$*ΛͱΓ·͘؀ڥ

サービスで使っている技術

CI・CD の概要

•  ςετͷ࣮ߦ •  ੒Ռ෺ͷੜ੒ •  ੒Ռ෺ͷ4΁ͷΞοϓϩʔυ •  ੩తϑΝΠϧͷ4΁ͷΞοϓϩʔυ •  ".*ͷੜ੒
•  ੒Ռ෺ͷσϓϩΠ Jenkins の仕事

•  ςετͷ࣮ߦ •  ੒Ռ෺ͷੜ੒ •  ੒Ռ෺ͷ4΁ͷΞοϓϩʔυ •  ੩తϑΝΠϧͷ4΁ͷΞοϓϩʔυ •  ".*ͷੜ੒
•  ੒Ռ෺ͷσϓϩΠ Jenkins の仕事 1⽉以降で対応

•  ໿ δϣϒ •  ໿ Ϗϧυ೔ 数でみる Jenkins

プルリクベースの開発

ヌーラボのブランチ戦略

開発のながれ •  όάमਖ਼΍ػೳ௥ՃͷͨΊʹϒϥϯνΛ੾Δ •  ࡞ۀ͕͓ΘΔͱ13Λग़ͯ͠ɺϨϏϡʔˍ Ϛʔδ •  ϚελʔϒϥϯνͰλάΛଧͬͯϦϦʔε

タグきっかけのアーカイブ⽣成

デリバリーはチャットから

Jenkins Typetalk Plugin

デリバリーのながれ •  UBHΛ͚ͭΔͱ4্ʹΞʔΧΠϒΛΞο ϓϩʔυ •  νϟοτ্ͰίϚϯυൃߦ •  +FOLJOT5ZQFUBML1MVHJO͕σϦόϦͷ δϣϒΛ࣮ߦ

$*ͰͷϢʔεέʔε

CI 環境の全体像

Jenkins Backlog Plugin

•  ςετ͢Δϒϥϯν͕૿͑ͨ – 13͝ͱͷςετ࣮ߦ – ਓ͕૿͑ɺϒϥϯν΋૿͑ •  ςετ࣮ߦʹඞཁͳ؀ڥ͕όϥόϥ – ҟͳΔόʔδϣϯͷπʔϧ΍ϛυϧ΢ΣΞ – جຊతʹಠཱͯ͠ಈ͔͍ͨ͠ メンバーやサービスが増えて…

•  εϩʔςετ – ؀ڥ͕͋͘·Ͱ଴ͨͳ͍ͱ͍͚ͳ͍ – ࣌ʹ͸ςετͦͷ΋ͷΛ͖͋ΒΊΔ͜ͱ΋ •  εϨʔϒͷϝϯς͕େม – ৽͘͠εϨʔϒͨͯΔͷେม – ϏϧυͷׂΓৼΓେม CI
における問題

そこで！

•  εϩʔςετ – ϒϥϯν͝ͱʹಠཱͨ͠%PDLFSίϯςφΛ ಈ͔͢͜ͱͰ଴ͭඞཁ͕ͳ͘ͳͬͨ •  εϨʔϒͷϝϯς͕େม – εϨʔϒʹ͸%PDLFSೖΕΔ͚ͩɻεϖοΫ Ξοϓ΍৽ن௥Ճ͕அવָʹͳͬͨ Docker
が解決したこと

5 つのキーポイント   εϨʔϒͷߏஙํ๏Λγϯϓϧʹอͭ   %PDLFSpMFҰͭͰςετ͢Δ   ΩϟογϡΛ༗ޮʹ࢖͏   ϏϧυޙʹίϯςφΛ࡟আ͢Δ
  ඞཁͳπʔϧΛ%PDLFSOJ[F͢Δ

3 ステップでスレーブ構成

•  εϨʔϒͷىಈ͕ૣ͍ – &$Πϯελϯεͷىಈʹ͔͔Δ࣌ؒఔ౓ •  Ͳ͜Ͱ΋εϨʔϒΛཱͯΒΕΔ – ࣾ಺؀ڥͰ΋($1Ͱ΋%PDLFS͕ಈ͍ͯ͞ ͍͑Ε͹0, ウマイところ

ジョブの構成例 $ ./gradlew clean test –Penv=ci $ docker run <run
option> test-image ./gradlew clean test

複数プロセスの実⾏ •  %PDLFSpMF一つだけでテスト実行 •  ローカル開発環境と同じ設定でテスト可能 # Dockerfile # install package
required for test RUN apt-get install –y redis-server # Test Configuration in Jenkins $ docker run test-image bach –c “service redis-server start ; ./ gradlew clean test”

Docker Compose でよくね？ •  ςετ͚ͩͷ໨తʹݶ͍ͬͯ͑͹ɺ %PDLFSpMF͚ͩͰे෼ͳ͜ͱ͕ଟ͍ •  ଞͷ༻్Ͱ΋࠶ར༻͢ΔͳΒ%PDLFS $PNQPTF

イメージをキャッシュする

依存ライブラリのキャッシュ

#1 ホストディレクトリ

#1 ホストディレクトリ $ docker run –v ${HOME}/.gradle:/root/.gradle test-image <test command>
•  ϝϦοτ – ෳ਺δϣϒؒͰͷڞ༗ •  σϝϦοτ – ύʔϛογϣϯɺϩοΫ໰୊

#2 事前ビルド

#2 事前ビルド # Dockerfile RUN mkdir -p /opt/local/app COPY requirements.txt
/opt/local/app/ WORKDIR /opt/local/app RUN pip install -r requirements.txt COPY . /opt/local/app $ docker build –t test-image . $ docker run test-image <test command> ґଘϥΠϒϥϦͷߋ৽͸Ξ ϓϦέʔγϣϯͦͷ΋ͷͷ ߋ৽ΑΓ͸සൟʹى͜Βͳ ͍͜ͱ͕૝ఆ

#2 事前ビルド •  ϝϦοτ – ύʔϛογϣϯʹؔΘΔ໰୊͕ͳ͍ •  σϝϦοτ – ґଘؔ܎Λมߋͨ͠৔߹ʹΩϟογϡ͕શͯ ΫϦΞ͞ΕΔ

#3 外部キャッシュ

#3 外部キャッシュ •  ϝϦοτ – ॳճ࣮ߦͰ΋ڧ྽ʹૣ͍ •  σϝϦοτ – ֎෦ΩϟογϡΛϝϯς͠ͳ͍ͱ͍͚ͳ͍ # Dockerfile
RUN mkdir /root/.gradle RUN cd /root/.gradle; curl -skL https://s3-ap- northeast-1.amazonaws.com/<cache-bucket>/cache.20151201.tar.gz | tar zxf -

依存ライブラリのキャッシュ戦略 Ωϟογϡͷ࢓ํ ϝϦοτ σϝϦοτ ψʔϥϘͷ࠾༻ ϗετσΟϨΫ τϦ ςετ࣮ߦ࣌ʹϗε τσΟϨΫτϦΛϚ ΢ϯτͯ͠ɺͦ͜ʹ
ґଘϥΠϒϥϦΛอ ଘͤ͞Δ ґଘϥΠϒϥϦΛ ෳ਺δϣϒͰڞ༗ Ͱ͖ɺଟগͷґଘ ؔ܎ͷมߋʹ΋େ ͖ͳӨڹΛड͚ͳ ͍ ίϯςφ಺ͷςε τΛϧʔτϢʔβ Ҏ֎Ͱ࣮ߦ͢Δ৔ ߹ɺύʔϛογϣ ϯͷ໰୊͕ൃੜ͠ ͏Δ +BWB 4DBMB .BWFO (SBEMF TCU ࣄલϏϧυ ґଘϥΠϒϥϦΛΠ ϯετʔϧͨ͠Π ϝʔδΛࣄલϏϧυ ͢Δ ύʔϛογϣϯͷ ໰୊͕ൃੜ͠ͳ͍ ҰͭͰ΋ґଘؔ܎ ͕มΘΔͱΩϟο γϡ͕શΫϦΞ͞ ΕΔ 1FSM 1ZUIPO OPEFKT ֎෦Ωϟογϡ ΩϟογϡΞʔΧΠ ϒΛ࡞੒͠4ͳͲ ͷ֎෦ϦϙδτϦʹ อଘ͠ɺςετ࣮ߦ ࣌ʹμ΢ϯϩʔυ͢ Δ Ϗϧυπʔϧ͕ࣗ લͰґଘؔ܎Λղ ܾ͢ΔΑΓѹ౗త ʹૣ͍ ֎෦ΩϟογϡΛ ࣗલͰϝϯς͢Δ ඞཁ͕͋Δ 4DBMB TCU

ビルド結果の取得

ワークスペースをマウントする # Dockerfile WORKDIR /opt/app $ docker run --rm –v
$(pwd):/opt/app test-image <test command> •  ϝϦοτ – ςετ࣮ߦޙʹ͙͢ʹίϯςφΛ࡟আͰ͖Δ •  σϝϦοτ – ύʔϛογϣϯ໰୊͕ൃੜ͠͏Δ

パーミッション問題 •  ϧʔτϢʔβҎ֎ͰςετΛ࣮ߦ͠ͳ͍ ͱ͍͚ͳ͍৔߹͕͋Δ •  ίϯςφ಺ʹ͓͚ΔϗετσΟϨΫτϦ ͷΦʔφʔ͸ෆఆ •  ݖݶͷෆ଍ʹΑΓϗετσΟϨΫτϦ΁ ͷϏϧυ݁Ռͷॻ͖ࠐΈ͸ࣦഊ͠͏Δ

ワークアラウンド#1 # run.sh su test-user –c “py.test tests –-junit-xml=/var/tmp/results.xml” cp
–p /var/tmp/results.xml . $ docker run --rm –v $(pwd):/opt/app test-image ./run.sh •  ςετ࣮ߦϢʔβͰॻ͖ࠐΈग़དྷΔͱ͜Ζʹ ݁ՌΛॻ͘ •  ϧʔτϢʔβͰͦͷ݁ՌΛϗετσΟϨΫτ Ϧʹίϐʔ͢Δ

ワークアラウンド#2 •  ςετΛ࣮ߦ͍ͯ͠ΔؒͷϗετσΟϨ ΫτϦͷΦʔφΛมߋ͠ɺ࣮ߦޙʹݩʹ ໭͢ # run.sh chown test-user .
su test-user –c “py.test tests” chown $1 . $ docker run --rm –v $(pwd):/opt/app test-image ./run.sh $(id -u)

実⾏結果をコンテナから取り出す # Dockerfile WORKDIR /opt/app COPY . /opt/app $ UNIQUE_NAME=“TEST_${GIT_COMMIT}_$(date
+%s)” $ docker run --name=${UNIQUE_NAME} test-image <test command> $ docker cp ${UNIQUE_NAME}:/opt/app/build/test-result/ test-result $ docker rm ${UNIQUE_NAME} •  ύʔϛογϣϯͷ໰୊͸ൃੜ͠ͳ͍͕ς ετͷ࣮ߦεςοϓ͕ෳࡶ

アーカイブをS3にあげる •  σϓϩΠͷͨΊʹϏϧυͨ͠ΞʔΧΠϒ Λ4ʹ͋͛Δ – "NB[PO-JOVYʹಉࠝͷBXT$-*Λ࢖͏ •  ΞʔΧΠϒ಺ͷ੩తϦιʔεΛ$%/഑৴ ༻ʹ4ʹ͋͛Δ – Πϯϋ΢εͷΞοϓϩʔυπʔϧΛ࢖͏

インハウスツールを Dockernize $ /usr/local/bin/upload-static-s3 ROOT.war –b <cdn-bucket> # Dockerfile ENTRYPOINT
[“/usr/local/bin/upload-static-s3”] $ docker run --rm <in-house-registory>/upload-static-s3 ROOT.war – b <cdn-bucket>

何でも Dockernize •  σϓϩΠ࣌ʹඞཁͳ71/઀ଓ΋ – ࣾ಺͔ΒͷΈຊ൪σϓϩΠͰ͖ΔΑ͏ʹ੍ݶ – σϓϩΠ͢ΔͨΊʹɺࣾ಺ʹ71/઀ଓ •  &&ςετʹඞཁͳ4FMFOJVN࣮ߦ؀ڥ΋

%PDLFSΛ૊ΈࠐΜͩ݁Ռ

ビルドタイムの短縮

CI プロセスがポータブルに

·ͱΊ

まなんだこと •  $*͕௚໘͢Δ໰୊ – 13ϕʔεͷ։ൃʹΑΔෳ਺ϒϥϯνͷςε τͷฒߦ࣮ߦ – ར༻ٕज़ͷଟ༷ԽʹΑΔςετ࣮ߦ؀ڥͷෳ ࡶԽ •  %PDLFS͕͜ΕΒΛޮՌతʹղܾ

Docker in CI •  $*͸%PDLFSΛ࢝ΊΔͷʹΑ͍ελʔτ ϙΠϯτ – %PDLFSͷಋೖͦͷ΋ͷ͸ͦΜͳʹେ͖ͳม ߋΛඞཁͱ͠ͳ͍ – $*͸ձࣾΛ௒͑ͯڞ༗Ͱ͖ΔϓϥΫςΟε͕ ଟͦ͏

ψʔϥϘͰ͸ɺ%PDLFSΛ Ͳ͔ͬͲ্ཱ͔͍ͬͪ͛ͨํΛ ืू͍ͯ͠·͢ IUUQTOVMBCJODDPNKBDBSFFS IUUQTOVMBCJODDPNKBDBSFFSDP⒎FF

Docker in CI

Docker in CI

More Decks by 株式会社ヌーラボ

Other Decks in Technology

Featured

Transcript