Upgrade to Pro — share decks privately, control downloads, hide ads and more …

CircleCI Server運用のポイント / Point of CirlceCI Serv...

Avatar for dehio3 dehio3
October 01, 2019
Technology
1
630

CircleCI Server運用のポイント / Point of CirlceCI Server operation

【東京】CircleCI ユーザーコミュニティミートアップ#7
https://circleci.connpass.com/event/147712/

Avatar for dehio3

dehio3

October 01, 2019
Tweet

More Decks by dehio3

See All by dehio3
とっ散らかったログバケットを S3バッチオペレーションで整理整頓 / Organizing disordered log buckets using S3 Batch Operations
Avatar for dehio3 tomohide_tanaka
0
250
40代エンジニアの生活の変化とキャリアの歩み
Avatar for dehio3 tomohide_tanaka
0
1.5k
AWSソリューションを活用して 1ヶ月で動画配信機能をリリースした話 / The story of releasing the Video distribution service in one month using AWS solutions
Avatar for dehio3 tomohide_tanaka
1
1.5k
GitHub Actionsで Terraformをplan&applyしてみた / I tried to plan and apply Terraform with GitHub Actions
Avatar for dehio3 tomohide_tanaka
6
6.2k
CircleCI_Serverの利用状況を可視化した話 / CircleCI Server Visualization of usage status
Avatar for dehio3 tomohide_tanaka
0
900

Other Decks in Technology

See All in Technology
Introduction to Bill One Development Engineer
Avatar for Sansan, Inc. sansan33
PRO
0
340
Cloud WAN MCP Serverから考える新しいネットワーク運用 / 20251228 Masaki Okuda
Avatar for SHIFT EVOLVE shift_evolve
PRO
0
150
#22 CA × atmaCup 3rd 1st Place Solution
Avatar for yumizu yumizu
1
180
Everything As Code
Avatar for わいわい yosuke_ai
0
510
20260114_データ横丁 新年LT大会：2026年の抱負
Avatar for タロウ taromatsui_cccmkhd
0
130
会社紹介資料 / Sansan Company Profile
Avatar for Sansan, Inc. sansan33
PRO
11
390k
コールドスタンバイ構成でCDは可能か
Avatar for 平目 hiramax
0
130
[PR] はじめてのデジタルアイデンティティという本を書きました
Avatar for ritou ritou
1
800
次世代AIコーディング：OpenAI Codex の最新動向 進行スライド/nikkei-tech-talk-40
Avatar for 日本経済新聞社 エンジニア採用事務局 nikkei_engineer_recruiting
0
140
Data Hubグループ 紹介資料
Avatar for Sansan, Inc. sansan33
PRO
0
2.6k
困ったCSVファイルの話
Avatar for もっち mottyzzz
0
220
Oracle Database@AWS：サービス概要のご紹介
Avatar for oracle4engineer oracle4engineer
PRO
2
870

Featured

See All Featured
コードの90%をAIが書く世界で何が待っているのか / What awaits us in a world where 90% of the code is written by AI
Avatar for r-kagaya rkaga
58
41k
Side Projects
Avatar for Sacha Greif sachag
455
43k
The Art of Delivering Value - GDevCon NA Keynote
Avatar for David Neal reverentgeek
16
1.8k
Building an army of robots
Avatar for Kyle Neath kneath
306
46k
Digital Ethics as a Driver of Design Innovation
Avatar for Per Axbom axbom
PRO
0
140
For a Future-Friendly Web
Avatar for Brad Frost brad_frost
180
10k
Claude Code のすすめ
Avatar for schroneko schroneko
67
210k
How Fast Is Fast Enough? [PerfNow 2025]
Avatar for Tammy Everts tammyeverts
3
420
<Decoding/> the Language of Devs - We Love SEO 2024
Avatar for Nikki Halliwell nikkihalliwell
1
110
Marketing to machines
Avatar for Jono Alderson jonoalderson
1
4.5k
[SF Ruby Conf 2025] Rails X
Avatar for Vladimir Dementyev palkan
0
710
Understanding Cognitive Biases in Performance Measurement
Avatar for Philip Tellis bluesmoon
32
2.8k

Transcript

  1. CircleCI Server 運用のポイント CircleCI ユーザーコミュニティミートアップ #7

  2. 自己紹介 Tanaka Tomohide • twitter: @dehio3 • blog:https://www.dehio3.com/ • 音響屋→インフラエンジニア

    • CircleCI運用歴：10ヶ月 2

  3. はじめに

  4. CircleCI Serverとは • オンプレミス版のCircleCI • CirlceCIから公開されているTerraformを利用して、AWS上に 構築可能 ◦ https://github.com/circleci/enterprise-setup

  5. CircleCI Server 使ってる？✋

  6. CircleCI Server 検討してる？✋

  7. 今日話す内容 • オンプレ版の運用中に発生した課題から気づいた運用のポイ ント • CircleCI Server 2.17.3時点での情報（9/30時点の最新） ◦ https://circleci.com/server/changelog/

  8. CircleCI Server の 構成要素

  9. None

  10. ビルドの詳しい仕組みは https://speakerdeck.com/kimh/circleci-2-dot-0wozhi-eru2tufalse-kontenakurasutatosre

  11. 永続リソースと 一時リソースそれぞれのポイント

  12. 永続リソース

  13. None

  14. スケーリングのタイミング • nomad-clientはAutoScalingから起動する。 • AutoScalingでEC2インスタンス起動アクション後、nomad-clientでbuild処理可能 な状態になるまで3,4分かかる。 • AutoScalingのアクションは自動では実行されない為、スケールリングアクションの 契機は自分で実装する必要がある。 •

    キューの滞留を検知してからスケールリングすると、スケールリングしたタイミング では既にキューが捌け終わって、無駄なスケールになる事もある。 • スケジュールでの時間契機か、リソース状況契機か、利用状況に応じてスーリング の検討が必要。

  15. 一時リソース

  16. None

  17. machine executorは冗長化未対応 • machine executorを動作させるサブネットは現状一つしか指定でない。 • 設定はWebコンソールから実施する為、AZを変更する場合は再起動が必要。 • 8/23のAZ障害はまさに直撃した・・ていうかこの時気づいた( ；∀；)

    • 即サポートに連絡して改善要望！！

  18. machine executorインスタンスのゾンビ化 • “machine”と”setup_remote_docker”を利用すると、一時的なEC2インスタンスが 新規に作成される。 • 本来であれば処理が終わるとインスタンスが削除されるが、バグ(2.14.01以前)や 起動中のserviceboxの再起動によって、インスタンスが削除されずに残る事があ る。 •

    ゾンビインスタンは無駄なコストになるので、定期的なゾンビインスタンスのチェック が必要。

  19. DLCのキャッシュ保持期間 • “docker_layer_caching”を設定すると専用のEBSボリュームが作成され、都度マ ウントされる事で、キャッシュが実現される。 • “Inactivity period before clearing Docker

    cache storage volumes (days)”にて chacheの保持期間を設定でき、デフォルトの14日に設定される。 • 保持期間はEBSボリュームの作成日ではなく、最終利用日から14日保持される。 • EBSボリュームについては、未利用時であっても課金される為、利便性とコストの バランスで保持期間を設定する。

  20. まとめ

  21. まとめ • 当然だがオンプレ版の場合はCircleCIのインフラも運用する 必要がある。 • インフラの維持コストを抑える為に、状況の可視化と継続的な 運用の改善が必要。 • まだまだ改善の余地はあるので、今後のCirlceCI Serverの開

    発に期待！！

  22. おまけ

  23. 前回のミートアップ https://speakerdeck.com/tomohide_tanaka/circleci-server-visualization-of-usage-status

  24. SaaS版のビルド情報を取得ツールを作成 https://www.dehio3.com/entry/2019/09/23/115924

  25. Thank you!! 25