Tweet
Tweet

Slide 1

Slide 1 text

AIとAWSで ビジネスプロセス変革に 挑む 株式会社アカツキ IT Service部 宮越 信吾

Slide 2

Slide 2 text

会社紹介

Slide 3

Slide 3 text

2024年11月会社紹介資料より抜粋

Slide 4

Slide 4 text

2024年11月会社紹介資料より抜粋

Slide 5

Slide 5 text

Who? ● 名前 ○ 宮越信吾 ● 所属 ○ IT Service部 ● どんなことをやっている人？ ○ Workatoの導入/開発/運用 ○ ServiceNowの導入/開発/運用 ○ いろいろ ■ BigQuery, Looker, AWS, Raspberry Piなど ● 趣味 ○ 音楽鑑賞 ■ レコードなどアナログオーディオ沼にハマっ ています。枚数が。。。オタクはかさばる。

Slide 6

Slide 6 text

IT Service部のご紹介 ● ミッション（チームが日々果たすべき役割、存在意義） ○ 企業価値を高める活動をITの力でサポートする ■ 安心して働ける環境を提供する ■ 業務に集中できる環境を提供する ■ 効率的な企業活動が可能になる環境を提供する ● 「情シス」的な機能を果たしています ○ 定型申請 ■ 各種端末やライセンスに関する依頼 ○ 不定形相談 ■ 「困った」や「定型依頼にない」場合の相談 ○ 調達 ■ ライセンス ■ ハードウェア ○ 仕組みの導入 ■ システムの導入 / 運用

Slide 7

Slide 7 text

生成AIの活用が叫ばれてはや2年 AIの利活用は進んでいますか？

Slide 8

Slide 8 text

生成AIの活用が叫ばれてはや2年 AIの利活用は進んでいますか？ 状況は様々だと思います • すでに導入済み • 現在進めている最中 • 検討中 • 何も無し

Slide 9

Slide 9 text

導入にあたり「技術」以外で最低限考慮が必要だと思うこと ● 達成したい目標 ● AIを導入する業務/ワークフロー ● AIの導入シナリオ ● 導入するAI

Slide 10

Slide 10 text

今回の目的

Slide 11

Slide 11 text

IT Service部のご紹介 ● ミッション（チームが日々果たすべき役割、存在意義） ○ 企業価値を高める活動をITの力でサポートする ■ 安心して働ける環境を提供する ■ 業務に集中できる環境を提供する ■ 効率的な企業活動が可能になる環境を提供する ● 「情シス」的な機能を果たしています ○ 定型申請 ■ 各種端末やライセンスに関する依頼 ○ 不定形相談 ■ 「困った」や「定型依頼にない」場合の相談 ○ 調達 ■ ライセンス ■ ハードウェア ○ 仕組みの導入 ■ システムの導入 / 運用 ここの課題を解決しようとしました

Slide 12

Slide 12 text

不定形相談のプロセスにAIを導入する ● 課題 ○ チケットのタイトルが自己紹介や挨拶などから始まり可視性が悪い ■ Slackのメッセージを問い合わせチケットのタイトルにしている ● Slackでのコミュニケーションとしては正しいメッセージ ● チケットのタイトルとして正しいとは限らない ○ 深い知見のないツールについて問い合わせがあると対応に時間がかかる ■ 「何をどのように検索するか」と考えるだけでも時間がかかる ○ 過去クローズした不定形相談に類似したチケットがあるか調べる時間がかかる ■ 人の手で検索しているため手間と時間はかかる ■ 「ふつうの検索」なので当時の問い合わせとキーワードが異なるとヒットしない ● 解決案 ○ AI Solves Everything.

Slide 13

Slide 13 text

導入にあたり「技術」以外で最低限考慮が必要だと思うこと ● 達成したい目標 ○ チケットのタイトルが自己紹介や挨拶などから始まり可視性が悪い ■ 内容を要約して端的な文章に要約したい ○ 深い知見のないツールについて問い合わせがあると対応に時間がかかる ■ AIが問い合わせ内容を読んで理解して解決策を提案してほしい ○ 過去クローズした不定形相談に類似したチケットがあるか調べる時間がかかる ■ 過去クローズした問い合わせをインデックスし、問い合わせ内容と類似したものを提案してほしい ● AIを導入する業務/ワークフロー ● AIの導入シナリオ ● 導入するAI

Slide 14

Slide 14 text

社内IT(ヘルプデスク)への問い合 わせ ● Slackでコミュニケーションを取り、ServiceNowに ログを集積しています 起票時 起票後のコミュニケーション

Slide 15

Slide 15 text

これまでの動作

Slide 16

Slide 16 text

質問用 Public Channel Agent用 Private Channel

Slide 17

Slide 17 text

導入にあたり「技術」以外で最低限考慮が必要だと思うこと ● 達成したい目標 ○ チケットのタイトルが自己紹介や挨拶などから始まり可視性が悪い ■ 内容を要約して端的な文章に要約したい ○ 深い知見のないツールについて問い合わせがあると対応に時間がかかる ■ AIが問い合わせ内容を読んで理解して解決策を提案してほしい ○ 過去クローズした不定形相談に類似したチケットがあるか調べる時間がかかる ■ 過去クローズした問い合わせをインデックスし、問い合わせ内容と類似したものを提案してほしい ● AIを導入する業務/ワークフロー ○ 不定形相談の受付プロセス ● AIの導入シナリオ ● 導入するAI

Slide 18

Slide 18 text

AIを導入するときのシナリオ 引用: New AI-centric Integration Use Cases Will Boost iPaaS Adoption https://www.nasdaq.com/articles/new-ai-centric-integration-use-cases-will-boost-ipaas-adoption プロセス内AI機能 複合AI RAG AI駆動型の動的プロセス構成 ビジネスプロセスに「注入」されるAI機能 ビジネス上の問題を解決するために、複数のAl技術をオーケストレーションする。 外部ソースからのデータでプロンプトの返信を充実させる AIは適切な行動の流れを把握することで、出来事に反応する

Slide 19

Slide 19 text

導入にあたり「技術」以外で最低限考慮が必要だと思うこと ● 達成したい目標 ○ チケットのタイトルが自己紹介や挨拶などから始まり可視性が悪い ■ 内容を要約して端的な文章に要約したい ○ 深い知見のないツールについて問い合わせがあると対応に時間がかかる ■ AIが問い合わせ内容を読んで理解して解決策を提案してほしい ○ 過去クローズした不定形相談に類似したチケットがあるか調べる時間がかかる ■ 過去クローズした問い合わせをインデックスし、問い合わせ内容と類似したものを提案してほしい ● AIを導入する業務/ワークフロー ○ 不定形相談の受付プロセス ● AIの導入シナリオ ○ プロセス内AI機能 ● 導入するAI

Slide 20

Slide 20 text

AI(LLM)にも種類はあります 汎用型LLMの例 特化型LLMの例 Workato Copilots ChatGPT

Slide 21

Slide 21 text

汎用型と特化型のPros / Cons 汎用型 特化型 Pros • 単機能の提供で自由度が高いので、独自 の仕組みに組み込みやすい • 従量課金となっていて低コストで始められ るケースが多い • 使用しているサービス上に機能としてつくり込ま れているためそのまま業務に組み込める Cons • 単機能そのままだと業務に組み込めない ため業務に組み込むための実装が必要に なる • 使用しているサービスの他にAI系サービス との契約が必要になる • 機能として作り込まれているため業務にFitしない 場合にカスタマイズしにくい / 使えない • 専用のライセンスが必要となり初期からある程度 の投資が求められるケースが多い

Slide 22

Slide 22 text

今回登場するAWSのAI系サービス ● Amazon Bedrock ○ 近しいもので有名どころはChatGPT ○ 文章を要約したり回答を生成したいところで使っていま す ● Amazon Kendra ○ 検索機能を持つデータベース ■ データベースに保存するときに「ベクトル化」して から保存している ● 「意味」で検索ができる ○ 過去対応したITへの問い合わせチケットを入れています ■ 新たな問い合わせが来たときに「類似」を検索して います

Slide 23

Slide 23 text

導入にあたり「技術」以外で最低限考慮が必要だと思うこと ● 達成したい目標 ○ チケットのタイトルが自己紹介や挨拶などから始まり可視性が悪い ■ 内容を要約して端的な文章に要約したい ○ 深い知見のないツールについて問い合わせがあると対応に時間がかかる ■ AIが問い合わせ内容を読んで理解して解決策を提案してほしい ○ 過去クローズした不定形相談に類似したチケットがあるか調べる時間がかかる ■ 過去クローズした問い合わせをインデックスし、問い合わせ内容と類似したものを提案してほしい ● AIを導入する業務/ワークフロー ○ 不定形相談の受付プロセス ● AIの導入シナリオ ○ プロセス内AI機能 ● 導入するAI ○ Amazon Bedrock ○ Amazon Kendra

Slide 24

Slide 24 text

今回のアプローチと目的 ● プロセス内AI機能のシナリオをベースに進める ○ Workatoで実装しているワークフローに組み込む ● 汎用AI(LLM)を選択 ○ 簡単な単機能を組み込むところから始める ● 必要最小限の機能に限定 ○ 最初から大きく張る必要はない ● 素早く業務に投入する ○ 最新の技術やトレンドを取り込むことで便利になったり楽になる体験を増やす ○ 小さい改善でも積み重ねると大きな体験になる ■ 小さい改善ならばスピードが出せる ● AIを使った実装のイメージを掴む ○ まずはAIを導入する際の勘所を掴みたい

Slide 25

Slide 25 text

キーワード ● Small Start, Quick Win. ● モダンな仕組みを受け入れられるマインドセットの醸成をしていく

Slide 26

Slide 26 text

ここからは「技術」に寄ったお話を

Slide 27

Slide 27 text

今回ご紹介する内容で実現できた こと ● Bedrockを使用することで実現 ○ チケット作成時に「内容を要約」してチケットのタ イトルにする ○ 作成時に「解決方法の提案」を生成する ● Kendraを使用することで実現 ○ チケット発行時に「類似した問い合わせ」を通知す る これらの実現の中心にいるのがWorkatoです チケット管理 類似の検索 要約 / 解決方法の 生成 クローズしたチケットの取り込み

Slide 28

Slide 28 text

要約

Slide 29

Slide 29 text

類似の検索 解決方法の自動生成

Slide 30

Slide 30 text

No content

Slide 31

Slide 31 text

今日からやれる Workatoの実装ポイント (AWSについては含みません)

Slide 32

Slide 32 text

Amazon Bedrockを使ってみる

Slide 33

Slide 33 text

WorkatoからBedrockを使う方法 以上。

Slide 34

Slide 34 text

WorkatoにはBedrockコネクタが あります Custom ConnectorとしてAWS Bedrockコネクタが存在し ています (Workato謹製) https://app.workato.com/custom_adapters/537016/d etails?community=true Community libraryに公開されている無料のコネクタなので 自社の環境にインストールするだけで使用できます

Slide 35

Slide 35 text

WorkatoからBedrockへ接続する 際の注意点 ● 通常通りコネクションを作成します ● Authentication typeは2種類から選択します ○ Access key ○ IAM role ● リージョンの指定が必要です ○ 指定したリージョンで許可しているモデルだけが選 択できます ○ 最新モデルは来日していないことが多いのでリージ ョンに注意してください！

Slide 36

Slide 36 text

WorkatoのレシピでBedrockコネ クタの設定 以下はanalyze textの例です ● 使いたいモデル ● 解析させたいテキスト（Source text） ● 依頼したいこと（Instruction）

Slide 37

Slide 37 text

すごくシンプルですが Workatoが受け取ったテキストをBedrockが処理するレシピ です モデルはAnthropic Claude 3 5 Sonnet 20240620 V1:0を 設定

Slide 38

Slide 38 text

テストしてみます

Slide 39

Slide 39 text

Amazon Kendraを使ってみる

Slide 40

Slide 40 text

WorkatoからKendraを使う方法 以上。 ひと手間

Slide 41

Slide 41 text

WorkatoからKendraを使う方法 （コネクタ） コネクタが存在していないのです！！

Slide 42

Slide 42 text

WorkatoからKendraを使う方法 （Lambda） そこでAWS Lambdaに登場いただきます Lambdaコネクタはもともと使える状態にあると思われます

Slide 43

Slide 43 text

Lambdaで Pythonによる実装 Workatoの レシピによる実装 実装は以下の順番で進めるのが良いと思います 1. Kendraにデータが収集できている状態 ○ IndexとData Sourceを作成してデータのSyncまで 完了 2. Lambdaで関数を作成 ○ Kendraへクエリを発行して結果を取得できている 3. Workatoのレシピを実装 ○ Lambdaの関数を呼び出して結果が取得できている 実装について

Slide 44

Slide 44 text

Lambdaを使ったPythonによる 実装について AWS提供のドキュメントをご確認いただくのが良いと思います 引用: Querying an index https://docs.aws.amazon.com/kendra/latest/dg/searching-example.html

Slide 45

Slide 45 text

WorkatoでLambda呼び出す方法 (Action) ● 今回は関数を実行するので Invoke functionを選択します ● 選択すると次はコネクションの選です ○ Bedrockでも作りましたがLambdaコネクタ用にも 必要です ○ Google DriveとGoogle Sheetsでそれぞれコネク ションが必要なのと同じですね

Slide 46

Slide 46 text

WorkatoでLambda呼び出す方法 (Setup) ● Function name ○ 呼び出したLambdaの関数を指定します ● Function input ○ 実行するときに渡す引数を設定できます ● Function output ○ Lambdaが処理して戻した値をWorkatoのレシピ で使用するためのmetaデータです ○ ここで定義しておかないとレシピの後続処理で使え ないのでご注意ください ● Invocation type ○ Lambdaからの戻り値を後続で使いたいときには RequestResponseを選択してください

Slide 47

Slide 47 text

テストしてみます

Slide 48

Slide 48 text

テストしてみます

Slide 49

Slide 49 text

まとめ ● AIとプロセスの接続など技術的側面はiPaaSによって緩和できるところがありました ○ 今回でいうとWorkatoのBedrockコネクタやLambdaコネクタ ○ 但し、接続に限る。（モデルの学習やチューニングなど接続面以外での技術は必要） ● 「入れ方」にも色々あるので要件や設計なども重要です ○ 目的 ○ シナリオ ○ 汎用型 / 特化型 ● やはり ”Small Start, Quick Win.” だと思います ○ 小さいところから技術要素や勘所を掴むのが大切 ○ 大きく張るのはその後でも遅くないはず

Slide 50

Slide 50 text

JWUGへのお誘い 今日お話した内容は 第8回 JWUG (Japan Workato User Group) Meetup でお話した内容の更新版です （不）定期にユーザ会を開催しています！ ● 事例の共有 ● ユーザの横のつながり ● 意見交換 Workatoを導入していて、まだ参加されたことのない方のご参加お待ちしています！ JWUG会場で僕と握手！

Slide 51

Slide 51 text

No content