AIとAWSでビジネスプロセス変革に挑む

Automate Tokyo 2024登壇資料（2024/11/27）

Transcript

1. AIとAWSで ビジネスプロセス変革に 挑む 株式会社アカツキ IT Service部 宮越 信吾
2. 会社紹介
3. 2024年11月会社紹介資料より抜粋
4. 2024年11月会社紹介資料より抜粋
5. Who? • 名前 ◦ 宮越信吾 • 所属 ◦ IT Service部 • どんなことをやっている人？ ◦ Workatoの導入/開発/運用 ◦ ServiceNowの導入/開発/運用 ◦ いろいろ ▪ BigQuery, Looker, AWS, Raspberry Piなど • 趣味 ◦ 音楽鑑賞 ▪ レコードなどアナログオーディオ沼にハマっ ています。枚数が。。。オタクはかさばる。
6. IT Service部のご紹介 • ミッション（チームが日々果たすべき役割、存在意義） ◦ 企業価値を高める活動をITの力でサポートする ▪ 安心して働ける環境を提供する ▪ 業務に集中できる環境を提供する ▪ 効率的な企業活動が可能になる環境を提供する • 「情シス」的な機能を果たしています ◦ 定型申請 ▪ 各種端末やライセンスに関する依頼 ◦ 不定形相談 ▪ 「困った」や「定型依頼にない」場合の相談 ◦ 調達 ▪ ライセンス ▪ ハードウェア ◦ 仕組みの導入 ▪ システムの導入 / 運用
7. 生成AIの活用が叫ばれてはや2年 AIの利活用は進んでいますか？
8. 生成AIの活用が叫ばれてはや2年 AIの利活用は進んでいますか？ 状況は様々だと思います • すでに導入済み • 現在進めている最中 • 検討中 • 何も無し
9. 導入にあたり「技術」以外で最低限考慮が必要だと思うこと • 達成したい目標 • AIを導入する業務/ワークフロー • AIの導入シナリオ • 導入するAI
10. 今回の目的
11. IT Service部のご紹介 • ミッション（チームが日々果たすべき役割、存在意義） ◦ 企業価値を高める活動をITの力でサポートする ▪ 安心して働ける環境を提供する ▪ 業務に集中できる環境を提供する ▪ 効率的な企業活動が可能になる環境を提供する • 「情シス」的な機能を果たしています ◦ 定型申請 ▪ 各種端末やライセンスに関する依頼 ◦ 不定形相談 ▪ 「困った」や「定型依頼にない」場合の相談 ◦ 調達 ▪ ライセンス ▪ ハードウェア ◦ 仕組みの導入 ▪ システムの導入 / 運用 ここの課題を解決しようとしました
12. 不定形相談のプロセスにAIを導入する • 課題 ◦ チケットのタイトルが自己紹介や挨拶などから始まり可視性が悪い ▪ Slackのメッセージを問い合わせチケットのタイトルにしている • Slackでのコミュニケーションとしては正しいメッセージ • チケットのタイトルとして正しいとは限らない ◦ 深い知見のないツールについて問い合わせがあると対応に時間がかかる ▪ 「何をどのように検索するか」と考えるだけでも時間がかかる ◦ 過去クローズした不定形相談に類似したチケットがあるか調べる時間がかかる ▪ 人の手で検索しているため手間と時間はかかる ▪ 「ふつうの検索」なので当時の問い合わせとキーワードが異なるとヒットしない • 解決案 ◦ AI Solves Everything.
13. 導入にあたり「技術」以外で最低限考慮が必要だと思うこと • 達成したい目標 ◦ チケットのタイトルが自己紹介や挨拶などから始まり可視性が悪い ▪ 内容を要約して端的な文章に要約したい ◦ 深い知見のないツールについて問い合わせがあると対応に時間がかかる ▪ AIが問い合わせ内容を読んで理解して解決策を提案してほしい ◦ 過去クローズした不定形相談に類似したチケットがあるか調べる時間がかかる ▪ 過去クローズした問い合わせをインデックスし、問い合わせ内容と類似したものを提案してほしい • AIを導入する業務/ワークフロー • AIの導入シナリオ • 導入するAI
14. 社内IT(ヘルプデスク)への問い合 わせ • Slackでコミュニケーションを取り、ServiceNowに ログを集積しています 起票時 起票後のコミュニケーション
15. これまでの動作
16. 質問用 Public Channel Agent用 Private Channel
17. 導入にあたり「技術」以外で最低限考慮が必要だと思うこと • 達成したい目標 ◦ チケットのタイトルが自己紹介や挨拶などから始まり可視性が悪い ▪ 内容を要約して端的な文章に要約したい ◦ 深い知見のないツールについて問い合わせがあると対応に時間がかかる ▪ AIが問い合わせ内容を読んで理解して解決策を提案してほしい ◦ 過去クローズした不定形相談に類似したチケットがあるか調べる時間がかかる ▪ 過去クローズした問い合わせをインデックスし、問い合わせ内容と類似したものを提案してほしい • AIを導入する業務/ワークフロー ◦ 不定形相談の受付プロセス • AIの導入シナリオ • 導入するAI
18. AIを導入するときのシナリオ 引用: New AI-centric Integration Use Cases Will Boost iPaaS Adoption https://www.nasdaq.com/articles/new-ai-centric-integration-use-cases-will-boost-ipaas-adoption プロセス内AI機能 複合AI RAG AI駆動型の動的プロセス構成 ビジネスプロセスに「注入」されるAI機能 ビジネス上の問題を解決するために、複数のAl技術をオーケストレーションする。 外部ソースからのデータでプロンプトの返信を充実させる AIは適切な行動の流れを把握することで、出来事に反応する
19. 導入にあたり「技術」以外で最低限考慮が必要だと思うこと • 達成したい目標 ◦ チケットのタイトルが自己紹介や挨拶などから始まり可視性が悪い ▪ 内容を要約して端的な文章に要約したい ◦ 深い知見のないツールについて問い合わせがあると対応に時間がかかる ▪ AIが問い合わせ内容を読んで理解して解決策を提案してほしい ◦ 過去クローズした不定形相談に類似したチケットがあるか調べる時間がかかる ▪ 過去クローズした問い合わせをインデックスし、問い合わせ内容と類似したものを提案してほしい • AIを導入する業務/ワークフロー ◦ 不定形相談の受付プロセス • AIの導入シナリオ ◦ プロセス内AI機能 • 導入するAI
20. AI(LLM)にも種類はあります 汎用型LLMの例 特化型LLMの例 Workato Copilots ChatGPT
21. 汎用型と特化型のPros / Cons 汎用型 特化型 Pros • 単機能の提供で自由度が高いので、独自 の仕組みに組み込みやすい • 従量課金となっていて低コストで始められ るケースが多い • 使用しているサービス上に機能としてつくり込ま れているためそのまま業務に組み込める Cons • 単機能そのままだと業務に組み込めない ため業務に組み込むための実装が必要に なる • 使用しているサービスの他にAI系サービス との契約が必要になる • 機能として作り込まれているため業務にFitしない 場合にカスタマイズしにくい / 使えない • 専用のライセンスが必要となり初期からある程度 の投資が求められるケースが多い
22. 今回登場するAWSのAI系サービス • Amazon Bedrock ◦ 近しいもので有名どころはChatGPT ◦ 文章を要約したり回答を生成したいところで使っていま す • Amazon Kendra ◦ 検索機能を持つデータベース ▪ データベースに保存するときに「ベクトル化」して から保存している • 「意味」で検索ができる ◦ 過去対応したITへの問い合わせチケットを入れています ▪ 新たな問い合わせが来たときに「類似」を検索して います
23. 導入にあたり「技術」以外で最低限考慮が必要だと思うこと • 達成したい目標 ◦ チケットのタイトルが自己紹介や挨拶などから始まり可視性が悪い ▪ 内容を要約して端的な文章に要約したい ◦ 深い知見のないツールについて問い合わせがあると対応に時間がかかる ▪ AIが問い合わせ内容を読んで理解して解決策を提案してほしい ◦ 過去クローズした不定形相談に類似したチケットがあるか調べる時間がかかる ▪ 過去クローズした問い合わせをインデックスし、問い合わせ内容と類似したものを提案してほしい • AIを導入する業務/ワークフロー ◦ 不定形相談の受付プロセス • AIの導入シナリオ ◦ プロセス内AI機能 • 導入するAI ◦ Amazon Bedrock ◦ Amazon Kendra
24. 今回のアプローチと目的 • プロセス内AI機能のシナリオをベースに進める ◦ Workatoで実装しているワークフローに組み込む • 汎用AI(LLM)を選択 ◦ 簡単な単機能を組み込むところから始める • 必要最小限の機能に限定 ◦ 最初から大きく張る必要はない • 素早く業務に投入する ◦ 最新の技術やトレンドを取り込むことで便利になったり楽になる体験を増やす ◦ 小さい改善でも積み重ねると大きな体験になる ▪ 小さい改善ならばスピードが出せる • AIを使った実装のイメージを掴む ◦ まずはAIを導入する際の勘所を掴みたい
25. キーワード • Small Start, Quick Win. • モダンな仕組みを受け入れられるマインドセットの醸成をしていく
26. ここからは「技術」に寄ったお話を
27. 今回ご紹介する内容で実現できた こと • Bedrockを使用することで実現 ◦ チケット作成時に「内容を要約」してチケットのタ イトルにする ◦ 作成時に「解決方法の提案」を生成する • Kendraを使用することで実現 ◦ チケット発行時に「類似した問い合わせ」を通知す る これらの実現の中心にいるのがWorkatoです チケット管理 類似の検索 要約 / 解決方法の 生成 クローズしたチケットの取り込み
28. 要約
29. 類似の検索 解決方法の自動生成
31. 今日からやれる Workatoの実装ポイント (AWSについては含みません)
32. Amazon Bedrockを使ってみる
33. WorkatoからBedrockを使う方法 以上。
34. WorkatoにはBedrockコネクタが あります Custom ConnectorとしてAWS Bedrockコネクタが存在し ています (Workato謹製) https://app.workato.com/custom_adapters/537016/d etails?community=true Community libraryに公開されている無料のコネクタなので 自社の環境にインストールするだけで使用できます
35. WorkatoからBedrockへ接続する 際の注意点 • 通常通りコネクションを作成します • Authentication typeは2種類から選択します ◦ Access key ◦ IAM role • リージョンの指定が必要です ◦ 指定したリージョンで許可しているモデルだけが選 択できます ◦ 最新モデルは来日していないことが多いのでリージ ョンに注意してください！
36. WorkatoのレシピでBedrockコネ クタの設定 以下はanalyze textの例です • 使いたいモデル • 解析させたいテキスト（Source text） • 依頼したいこと（Instruction）
37. すごくシンプルですが Workatoが受け取ったテキストをBedrockが処理するレシピ です モデルはAnthropic Claude 3 5 Sonnet 20240620 V1:0を 設定
38. テストしてみます
39. Amazon Kendraを使ってみる
40. WorkatoからKendraを使う方法 以上。 ひと手間
41. WorkatoからKendraを使う方法 （コネクタ） コネクタが存在していないのです！！
42. WorkatoからKendraを使う方法 （Lambda） そこでAWS Lambdaに登場いただきます Lambdaコネクタはもともと使える状態にあると思われます
43. Lambdaで Pythonによる実装 Workatoの レシピによる実装 実装は以下の順番で進めるのが良いと思います 1. Kendraにデータが収集できている状態 ◦ IndexとData Sourceを作成してデータのSyncまで 完了 2. Lambdaで関数を作成 ◦ Kendraへクエリを発行して結果を取得できている 3. Workatoのレシピを実装 ◦ Lambdaの関数を呼び出して結果が取得できている 実装について
44. Lambdaを使ったPythonによる 実装について AWS提供のドキュメントをご確認いただくのが良いと思います 引用: Querying an index https://docs.aws.amazon.com/kendra/latest/dg/searching-example.html
45. WorkatoでLambda呼び出す方法 (Action) • 今回は関数を実行するので Invoke functionを選択します • 選択すると次はコネクションの選です ◦ Bedrockでも作りましたがLambdaコネクタ用にも 必要です ◦ Google DriveとGoogle Sheetsでそれぞれコネク ションが必要なのと同じですね
46. WorkatoでLambda呼び出す方法 (Setup) • Function name ◦ 呼び出したLambdaの関数を指定します • Function input ◦ 実行するときに渡す引数を設定できます • Function output ◦ Lambdaが処理して戻した値をWorkatoのレシピ で使用するためのmetaデータです ◦ ここで定義しておかないとレシピの後続処理で使え ないのでご注意ください • Invocation type ◦ Lambdaからの戻り値を後続で使いたいときには RequestResponseを選択してください
47. テストしてみます
48. テストしてみます
49. まとめ • AIとプロセスの接続など技術的側面はiPaaSによって緩和できるところがありました ◦ 今回でいうとWorkatoのBedrockコネクタやLambdaコネクタ ◦ 但し、接続に限る。（モデルの学習やチューニングなど接続面以外での技術は必要） • 「入れ方」にも色々あるので要件や設計なども重要です ◦ 目的 ◦ シナリオ ◦ 汎用型 / 特化型 • やはり ”Small Start, Quick Win.” だと思います ◦ 小さいところから技術要素や勘所を掴むのが大切 ◦ 大きく張るのはその後でも遅くないはず
50. JWUGへのお誘い 今日お話した内容は 第8回 JWUG (Japan Workato User Group) Meetup でお話した内容の更新版です （不）定期にユーザ会を開催しています！ • 事例の共有 • ユーザの横のつながり • 意見交換 Workatoを導入していて、まだ参加されたことのない方のご参加お待ちしています！ JWUG会場で僕と握手！