Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
テストの自動化〜始める、使う、捉える
Search
SHIFT EVOLVE
September 01, 2023
Technology
0
360
テストの自動化〜始める、使う、捉える
イベント登壇資料
2023/08/30(水) 三社三様!テスト自動化アプローチのあれこれ共有会
舟木 将彦氏(Circle CI)
SHIFT EVOLVE
September 01, 2023
Tweet
Share
More Decks by SHIFT EVOLVE
See All by SHIFT EVOLVE
さらに高品質・高速化を目指すAI時代のテスト設計支援と、めざす先 / AI Test Lab vol.1
shift_evolve
0
190
テストケースの自動生成に生成AIの導入を試みた話と生成AIによる今後の期待
shift_evolve
0
190
E2Eテスト自動化プラットフォームにおけるAIの活用
shift_evolve
0
190
人財育成は社会を救う~最速でアジャイルなQA人財を育てる仕組み~
shift_evolve
0
130
アーキテクチャを把握し、テスト観点の漏れをなくす
shift_evolve
0
37
アジャイル開発お悩み相談会 vol.5 質問と回答
shift_evolve
0
130
アジャイル開発お悩み相談会_vol.4_Q&A
shift_evolve
0
89
アジャイル開発お悩み相談会2-1_ボード
shift_evolve
0
170
LatteArtによるテストログの記録とそれを用いたメンテナンス性の高いテストスクリプト生成技術の紹介
shift_evolve
2
610
Other Decks in Technology
See All in Technology
データ分析を支える技術 生成AI再入門
ishikawa_satoru
0
380
Luupの開発組織におけるインシデントマネジメントの変遷 ver.RoadtoSRENEXT2024
grimoh
1
270
Docker互換のセキュアなコンテナ実行環境「Podman」超入門
devops_vtj
6
3.2k
LINE WORKSへ簡単通知!Incoming Webhookアプリの紹介
mmclsntr
0
110
推薦システムを本番導入する上で一番優先すべきだったこと~NewsPicks記事推薦機能の改善事例を元に~
morinota
0
130
初中級者用如何使用backlog -VALE TUDOEDITION-
in0u
0
140
Azure OpenAI Service Dev Day / LLMでできる!使える!生成AIエージェント
masahiro_nishimi
3
800
Flutter研修【MIXI 24新卒技術研修】
mixi_engineers
PRO
0
160
MySQLのロックの種類とその競合
yoku0825
6
1.6k
Git 研修 Advanced【MIXI 24新卒技術研修】
mixi_engineers
PRO
0
200
Amazon FSx for NetApp ONTAPのパフォーマンスチューニング要素をまとめてみた #cm_odyssey #devio2024
non97
0
220
「単なる OAuth 2.0 を認証に使うと、車が通れるほどのどでかいセキュリティー・ホールができる」のか検証してみた
terara
0
380
Featured
See All Featured
WebSockets: Embracing the real-time Web
robhawkes
59
7.2k
Docker and Python
trallard
37
2.9k
How to Think Like a Performance Engineer
csswizardry
4
590
Build your cross-platform service in a week with App Engine
jlugia
227
17k
The Pragmatic Product Professional
lauravandoore
29
6.1k
Rails Girls Zürich Keynote
gr2m
93
13k
Why Our Code Smells
bkeepers
PRO
332
56k
4 Signs Your Business is Dying
shpigford
178
21k
The Cult of Friendly URLs
andyhume
75
5.9k
What's in a price? How to price your products and services
michaelherold
239
11k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
90
47k
Intergalactic Javascript Robots from Outer Space
tanoku
266
26k
Transcript
1 テストの自動化 簡単に始める、みんなで使う、 現況を捉える 三社三様!テスト自動化アプローチのあれこれ共有会 Masahiko Funaki (舟木将彦) @mfunaki Principal
Developer Advocate
2 Agenda テスト自動化を始める テストを自動化し倒す 自動テストした結果を捉える 1 2 3
3 1. テスト自動化を始める
4 CI (継続的インテグレーション) とは? 開発者が書いたソースコードをリポジトリにマージすることで、 ビルドやテストを自動的に実行する開発の手法です。 … リリースに向けた一連の手順を決め、それを CI/CDパイプラインという形で 定義し実行することで、誰が実施しても、同じ流れのデプロイを実現できます。
このCI/CDにより、リリースに対するアジリティが高まることが利点のひとつ ですが、筆者にはリリースに対する心理的ハードルが下がることが、 一番のメリットであると考えています。 〜新井雅也/馬勝淳史(2020)『AWSで学ぶクラウドネイティブ実践入門』
5 テスト自動化に取り掛かろう 「Java(Maven)プロジェクトのビルドを CircleCI+Orbsで自動化」 https://qiita.com/mfunaki/items/b393a531e4b04a224368
6 2. テストを自動化し倒す 並列実行、実行環境のスペック変更、テスト環境への SSH ログイン
7 クラウド上のCI環境で自動テストを実行する利点 • 誰でも実行できるし、誰がやっても同じ結果が得られる 誰かのビルド環境/テスト環境に依存しない。 ソースコードを作成/修正して、コミット、プッシュすれば、 クラウド上で自動的に実行される。 • テストの抜け漏れがない ◦
不注意による抜け漏れ(コマンドを実行し忘れた) ◦ 故意の抜け漏れ (「ここの部分の修正であれば、このテストは実行しなくてもよいはず」 ) だけであれば、(もしかしたら)注意深い人が慎重に自分の環境でテストを手動実行 すればよいのでは?
8 2.1 並列実行で時間短縮 2. テストを自動化し倒す
9 テストを並行実行して完了時間を短縮(1) 並列実行時の割り振り方 •ファイル名のアルファベット順 •過去のテスト実行時の所要時間 ベースで均等割(timings) •ファイルサイズで均等割 (filesize) •マニュアル指定
10 テストを並行実行して完了時間を短縮(2) 時間は1/3、 費用はほとんど変わらない 100秒かかるテストケースを 見直さないと、 並列数を増やしても、 これ以上の短縮は見込めない。
11 2.2 実行環境のスペック変更 2. テストを自動化し倒す
12 CircleCIで利用可能な実行環境(リソースクラス)一例
13 Stable Diffusion のテストをCPU/GPU/M1 Macで Executorなど一部の定義を 外出しすることで、 プラットフォームを跨って (かつ並列で)テスト実行が 可能!
14 2.3 テスト環境へのSSHログイン 2. テストを自動化し倒す
15 SSHでシェルにログイン 自動テストを実行するワークフローを組む過程で シェル上で確認・検証したい場合に「非常に」有用 (「自動化するまでが大変」を大幅に軽減)
16 シェルの利用だけでなくポートフォワードも可能 sshでCircleCIのテスト環境にログインする際、 ポートフォワードも合わせて設定 ssh -p NNNNN -L 7860:localhost:7860 aa.bbb.ccc.ddd
あとはローカルのブラウザ上で localhost:7860 に アクセスすることで、 CircleCI クラウドのテスト環境 (GPU/CPU/Apple Silicon)を使って実際の動作を確認可能 Programmar drinking coke wearing jeans
17 3. 自動テストした結果を捉える
18 Tests Insights で自動テストの結果からインサイトを 1ワークフローあたりの 平均テスト実行数 Flakyな(結果が不安 定な)テストの検出数 失敗した テストの数
(P95の中で)最も遅い テストの所要時間 グラフをクリックすることで、 実際にどのテストが成功/失敗 して、時間がかかっているのか 簡単に参照可能
19 並列実行の効果もダッシュボード上で可視化可能
CircleCIをもっと知りたい!なら 最新の情報なら @CircleCIJapan をフォロー! #CircleCIJp タグつけて情報共有! イベント、セミナー、勉強会の情報なら connpassのCircleCIグループから! https://circleci.connpass.com/ 動画でCircleCIについて学ぶなら
CircleCIチャンネルを登録! (日本語プレイリストもあり )