Slide 1

Slide 1 text

~エンジニアの期待と現実~ 2024/8/29 AIを活用したQA & テスト自動化プラットフォーム mabl(めいぶる)のウェビナー

Slide 2

Slide 2 text

mabl について

Slide 3

Slide 3 text

What's mabl? ● 「めいぶる」と読みます ● Stackdriver(現Google Cloud Operations)の 創業者IzzyとDanが2017年ボストンで創業 ● 2021年8月に日本法人設立 ● グローバルの社員数は約110名 ● Fortune Globalの35社含む300社+が採用 ● GV、CRV、Amplify、Vista Equity Partner、 Presidioより 7,700万ドル (90億円) を調達

Slide 4

Slide 4 text

Web/Mobile/APIのための統合型プラットフォーム 4 AI、クラウド、ローコードの 最新テクノロジーを軸に 構築されたプラットフォーム Web、モバイル、APIテストを 単一のプラットフォームで実行 テストの再利用性を備えた 真のエンドツーエンドテスト

Slide 5

Slide 5 text

現状のQAに関する問題点 スピード: 従来型のテスト手法では 現在のソフトウェアリリースサイクルにつ いていけない サイロ化: テスト実施がチームごとに サイロ化され、アジリティや可視性が 犠牲になっている メンテナンス: 開発チームがテストコード のメンテナンスに多くの時間を費やしてい る

Slide 6

Slide 6 text

現状のQAに関する問題点 (アンケート結果) 6割以上が『手動でのテスト対応』と 回答 『テストメンテナンス』 『構築と実行に時間がかかりすぎる』 『自動化を行うためのコーディング知識がない』 が最多回答

Slide 7

Slide 7 text

単一プラットフォームで広範囲なテストをカバー 機能/非機能テストをカバーするプラットフォーム ● Web UIテスト ● モバイルWeb UIテスト ● APIテスト ● アクセシビリティテスト ● UI/API パフォーマンステスト ● NEW! ネイティブモバイルアプリテスト ● NEW! データベースコネクション

Slide 8

Slide 8 text

ノーコードでテストを作成、ローコードで拡張 テスト作成の流れ 1. ブラウザでテスト対象アプリを 操作 2. トレーナー(右側ウィンドウ) が各操作をステップとして記録 してテストを作成 3. 必要に応じてステップの追加・ 削除・変更が可能

Slide 9

Slide 9 text

ローコードで「意図」と「実装」を分ける

Slide 10

Slide 10 text

ノーコードでカバーしきれないテストステップをローコードでカバー、テストカバレッジを向上 ローコードでテストを拡張 テストの任意ステップで、GUIでは指定できないような操作を JavaScriptで実行可能

Slide 11

Slide 11 text

詳細なテスト結果データを自動で記録 テストのステップごとに結果情報を収集 ● スクリーンショットと画面差分 ● ネットワークログ ● DOMスナップショット ● HARファイル

Slide 12

Slide 12 text

テスト実行結果からインサイトを通知 実行テストに関する情報を俯瞰的に把握 ● テストカバレッジ ○ 最新のテスト成功率 ○ 累積テスト実行数 ○ 失敗テストの分類 ○ テストステータス、など ● 自動修復 ● 視覚的変化 ● リンク切れ ● JavaScriptエラー

Slide 13

Slide 13 text

既存ツールとの統合 DevOpsツールセットとの統合 CI/CDインテグレーション Mabl アプリ (デスクトップ、Web) Mabl Cloud レ ート コラ レーションツール お使いのアプリケーション Mabl Link optional バグ追跡

Slide 14

Slide 14 text

https://github.com/apps/mabl-bot GitHub インテグレーション Deployment action Run mabl tests action Actions 2.0 Deployments API Tests Test Results API DEPLOYMENT EVENT POLL FOR TEST RESULTS TRIGGER デプロイメント アクション mabl テスト実行 アクション デプロイイベント 実行 テスト テスト結果を連携

Slide 15

Slide 15 text

より良い品質のソフトウェアをより早く提供 15 3倍 速くテストを作成 スピード向上 70% メンテナンスコスト削減 効率化 10倍 速くテストを実行 加速化 80% 自社開発ソリューション よりも低コスト コスト削減

Slide 16

Slide 16 text

エンタープライズ対応のセキュリティ SOC II Type 2 GDPR

Slide 17

Slide 17 text

本日のテーマ

Slide 18

Slide 18 text

生成AIとAI ~エンジニアの期待と現実~

Slide 19

Slide 19 text

自動修復でメンテナンス作業を削減 テスト作成 自動修復 テスト実行 分析 アップデート 毎実行ごと アプリ改修や動的要素により 対象要素が見つからない場合、 過去実行時に収集した情報を元に 対象要素の候補を探し テスト実行継続を試みる テスト実行の都度、 各要素について 30以上の属性を収集

Slide 20

Slide 20 text

UI変更を検知しテストを自動修復して実行を継続 どうやってテストを自動修復する? ● テスト実行のたび要素ごとに 35以上の属性を記録 ● 要素が見つからない時、 属性情報を使い要素を検索 ● マッチした要素でテストを 修正して実行 ● 自動修正をユーザーに通知し、 正しく修正されているか確認

Slide 21

Slide 21 text

Wait timeの自動生成

Slide 22

Slide 22 text

生成AIの現状 日本における未来志向型インフラ・テクノロジのハイプ・サイクル:
 2024年 出典:ガートナー 生成AIのハイプ・サイクル:2023年 出典:ガートナー

Slide 23

Slide 23 text

AI Agent活用の取り組み例 (ヘルプデスクへの活用)  Reference: ヘルプデスクの事例で学ぶ AIエージェント

Slide 24

Slide 24 text

Microsoft Gamoさんはこう言っている。  Reference: GPT開発の悩みの種「速度」「精度」「評価」の壁をどう超えるか 『Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門』著者の 1人 ”GPTに出力を評価させる場合、その評価が妥当なものであ るかどうかを確認する必要がある。" ”特に判断に注意。品質保証部門やデータサイエンティスト など専門家と相談し、通常のソフトウェアテストと同じく、 Go/No Goの判定基準を事前に設けておく。"

Slide 25

Slide 25 text

mablの様々な 生成AI活用

Slide 26

Slide 26 text

(機能強化) 生成AIが言語理解をサポート 要素の検索モデル DOM エキスパートシステム Autonomous Agent

Slide 27

Slide 27 text

アプリケーション内の要素が大幅に変更され、テス ト対象要素が見つからない場合に、テストを自動修 復を試みる。 80%程の精度だった従来の自動修復機能に生成 AIを組み込み、95%まで修復精度が向上。 テストで出力されるLog上にテスト結果だけでなく 判断内容を記載。 GenAIによる作成済みテストの高度な自動修復

Slide 28

Slide 28 text

より複雑なテストシナリオのために JavaScriptスニ ペットの作成が必要な場合には、生成 AIによるスニ ペット生成支援の機能を活用して作成可能。 作成したいスニペットについて、プロンプトを用いて 指示を記載することで、サンプルコードを出力。 GenAIによるJavaScriptスニペット作成支援

Slide 29

Slide 29 text

アサートとは、『アプリケーションが期待した 動作通りに動くか』を確認すること。 例えば『パスワード未入力でログインボタンを押し たら、パスワード入力を促すメッセージが表示され ること』など。 『GenAIによるアサーション』はプロンプトを活用し て、より複雑なアサート処理をテスト ステップに組み込むことが可能。 右の例では『画像の背景に山が表示されているこ と』をプロンプトベースでテストし、結果や判定理由 も併せて表示。 GenAIによるアサーション

Slide 30

Slide 30 text

作成したいクエリについて、プロンプトを用いて指 示を記載することで、サンプルを出力。 アプリケーションとデータベース双方の変更内容が 正確に反映されることを確認できるだけでなく、 データベースのテストデータを設定し、テスト内で 削除や変数としての使用も可能。 mabl Link もしくは mabl が指定するIPアドレスを 許可して、非公開データベースへもアクセス MySQL / Microsoft SQL Serverをサポート。 (予定) PostgreSQL / Oracle DB / MongoDB New!! GenAIによるSQLのクエリ作成支援 New!! DATABASE CONNECTION IN A UNIFIED PLATFORM

Slide 31

Slide 31 text

For your information #mablJapan

Slide 32

Slide 32 text

About the mabl University How-to Videos (English only) How-to Lessons (Japanese only) On-Demand Training (English & Japanese) mabl Skills Certifications (English & Japanese) ● 33 ビデオ (各3 - 8 分程度) ● 英語字幕あり、日本語字幕なし ● 26 レッスン ● Step by stepで学習可能 ● 4 ラーニングパス ● 設定、基礎、高度、統合でそれ ぞれ30 - 90 分の学習パス ● 学習目標に応じたパスを提供 ● 3 つの資格 ● Foundations と Advanced ● NonFunctional ←NEW ● LinkedIn に掲載可能

Slide 33

Slide 33 text

About the mabl Skills Certification 出題数60問の選択式テストを通じて、mablのナビ ゲーション、設定、テスト作成、出力、自動テスト 戦略について解答し、examをパスしましょう! Why get certified? ● LinkedInで認定資格合格後を登録可能 ● 認定資格試験の取得を通じてmablプラット フォームの一定への知見をアピールできます ● mablers_jpのようなコミュニティを通じて、 得たスキルを活かしたOutputをしましょう! ● 2023年3月~日本語での提供を開始しました

Slide 34

Slide 34 text

mabl Skills Certification mabl Skills Certification: Foundations (基本レベル) mabl Skills Certification: Advanced (応用レベル) mabl Skills Certification: Non-functional Testing (非機能テスト)

Slide 35

Slide 35 text

You can try it now! ● 2週間の無料トライアルとmabl University でmablをマスターしよう! ● デモのリクエストはこちらから!→→ https://www.mabl.com/ja

Slide 36

Slide 36 text

mabl の User Community『mablers_ jp』 Join user community! https://mablersjp.connpass.com/event/329342/

Slide 37

Slide 37 text

Join our Sponsored Conference! 10/17 CTC Forum 2024 11:50 - 12:20 『mablのテスト自動化への生成AIの 取り組みと導入効果について』 https://forum.ctcevent.jp/?r=101

Slide 38

Slide 38 text

Join our Annual Conference! 11/20 mabl experience 24 Japan 開催決定! https://experience.mabl.com/ja/

Slide 39

Slide 39 text

Please respond to our survey! 本日はご参加いただき ありがとうございます! mablご紹介ウェビナーのアンケート 回答にご協力お願いします。