Slackで始めるらくらくRAG開発

Google Cloud データ&AI道場 第31回 データ＆AI Lightning Talk 祭りの登壇資料

Transcript

1. Slackで始めるらくらくRAG開発 2024年6月5日 アイレット株式会社 DX開発事業部　モダンエンジニアリング S 田村　直樹 アイレット株式会社 DX開発事業部 モダンエンジニアリングセクション ⽥村 直樹
2. 2 1. 自己紹介 2. 会社概要 3. 課題 4. システム構成 5. Slackで始めるらくらくRAG開発 6. 実行 7. 利用者の声 8. さいごに 目次
3. 自己紹介
4. 自己紹介 田村　直樹（Naoki Tamura） 略歴： 　・大学 : 文学部卒の文系 　・前職 : 銀行系SIer (‘20/04~’23/03) 　・現在 : アイレット株式会社　DX開発事業部所属 　Google Cloudでのバックエンド開発を担当 　直近はGeminiを使った生成AIアプリの開発に従事 　 好きなサービス： 　・Cloud Functions、Vertex AI 4 @tamunao
5. 会社概要
6. 会社概要 6 アイレットは クラウド導入、デザイン、システム開発を ワンストップで提供します お客様が求めるスピード感で、先進のITソリューションを提供。 開発・デザイン・構築・運用のワンストップ体制で あらゆる側面からお客様の課題に向き合い、解決に導きます。 社名 アイレット株式会社 所在地 東京都港区虎ノ門1-23-1　虎ノ門ヒルズ森タワー7F 設立 2003年10月15日 代表者名 会長：齋藤 将平／社長：岩永 充正（2020年4月） 従業員数 1022名（2023年4月末時点） 資本金 7,000万円(平成27年3月20日 増資)　KDDIグループ 主要取引先銀行 三菱UFJ銀行 りそな銀行 事業内容 ITコンサルティング、システム開発、システム保守・運用、サーバハウジング・ ホスティング
7. 会社概要（アイレットの強み） 7 豊富な開発実績 クラウドを活用して様々な業界のシステムを規模を問わず多岐にわたって開発 （例）近年様々なプロジェクトにて DX推進を支援いたしております。 オーケー株式会社様 次世代会員カードアプリのワンストップ開発 株式会社 虎屋様 オンラインショップシステム 株式会社ユニクロ様 ヒートテック「世界応援プロジェクト」のシステム開発 株式会社 毎日放送様 オフラインイベント対応型チャットボット開発
8. ☁2019年7月よりプレミア パートナー Sell および Service エンゲージメント モデル認定を取得
 ☁アプリケーション開発のスペシャライゼーション認定 ☁データ管理のスペシャライゼーション認定 ☁インフラストラクチャのスペシャライゼーション認定 ☁マネージド サービス プロバイダ（MSP）認定 ☁Google Cloud Partner Top Engineer 2023 3名選出 資格保有数 8 会社概要（アイレットの強み） ・・・Google Cloudからの認定
9. 9 Google Cloud生成AIソリューション支援パートナーに認定 会社概要（アイレットのご紹介）・・生成 AIソリューション支援パートナー 参考 アイレットは、お客様が生成AI導入を行う際の技術支援を行うパートナー企業として 「生成AIロケットスターターパッケージ」カテゴリのパートナーに認定されております。 基盤モデルAPIをアプリケーションに連係させ、基盤モデルをさらにお客様のご意向に沿ったものにする支援を行います。
10. 課題
11. 11 課題 このような課題をお持ちではありませんか？
 ✅ 規約を調べたいがどこで調べたら良いかわからない
 ✅ 社内文書が多すぎてどれをみたら良いかわからない
 ✅ チャットボットを導入したいが画面を作ったり、サーバ用意したりなど大変そう
 ✅ 初歩的な質問でヘルプデスクには聞きづらい
 ✅ 普段の業務で文書検索に時間がかかっている
 SlackベースのRAGアプリで解決できます！

12. 12 Slackで始めるらくらくRAG開発 RAGアプリを開発するにあたり「5つのポイント」を重視しています
 01 Slack API ポイント　　　　　　　　 使い慣れたSlackのチャット画 面を活用し、SlackAPIでRAG 検索アプリに接続する 02 Cloud Functions ポイント　　　　　　　　 FaaSのサーバレスサービスを 使うことで、開発効率やインフ ラ運用が楽に！ 03 Vertex AI ポイント　　　　　　　　 マネージドなAIサービスをAPI で簡単にRAG検索機能を実 装します 04 Gemini Code Assist ポイント　　　　　　　　 開発者向けの生成AIアシスタ ントを使って、アプリケーション の爆速開発 05 マルチチャネル ポイント　　　　　　　　 2024年4月よりGoogle Drive のデータもRAG検索すること が可能になりました
13. 13 ポイント1：Slack API フレームワーク：Bolt for Python
 
 • Slackのアプリ開発のために提供されている公式フレームワークです。
 • Slack APIのハンドラーやWebhookを使うことができ、外部のAPIとも簡単に繋ぎ込める。
 らくらくポイント1：APIの繋ぎこみを簡単にしたい
 • Slackでは公式フレームワークでAPIの繋ぎこみが行えるため、ゼロベースでの設計や開発が不要
 👉 Slackの画面をそのまま使用するためUI部分の開発が省略
 👉 チャット形式での回答生成も可能だが、スラッシュコマンドによる回答生成ができる
 👉 スラッシュコマンドはそれぞれAPIを分けられるので、FaaSのCloud Funcionsと相性が良い

14. 14 ポイント2：Cloud Functions 使用サービス：Cloud Functions
 
 • Google CloudでFaaSとして提供されているCloud Functionsを利用します
 • サーバレスサービスのためサーバ管理が不要で、自動スケーリングされる。
 
 らくらくポイント2：開発と運用を楽にしたい
 • ソースコードさえ書けばデプロイするだけというお手軽さが魅力
 👉 「試しに実行してみたい」となったときのハードルが非常に低い
 👉 Google Cloud内のあらゆるサービスと連携できる上、他サービスとの連携も非常に楽
 　👉 いつでも、どこでも、誰とでも繋げられるサービス
 

15. 15 ポイント3：Vertex AI 使用サービス：Vertex AI（Agent Builder、SDK）
 
 • フルマネージドなAI開発のプラットフォームで、生成AIの利用やアプリへの組み込みが容易
 • Searchアプリを作成することでRAG検索を簡単に実装できる
 らくらくポイント3：生成AIで文書検索を楽にしたい
 • プログラミング言語ごとにVertex AIを使用するためのSDKが用意されている
 👉 公式ドキュメントかなり丁寧で、サンプルも多いためすぐに検証を進められる
 👉 基本的にはテンプレート通りに実装することで、RAG検索の機能も簡単実装
 👉 文書検索した結果はGemini 1.5 Proに渡して要約と整形をする

16. 16 ポイント4：Gemini Code Assist 使用サービス：Gemini Code Assist
 
 • プログラミングをサポートしてくれるAI コードアシスタント
 • チャット機能やAIによるコード補完、コード生成などプログラミング全般のサポート
 らくらくポイント4：プログラミングを楽にしたい
 • AIがコード補完をしてくれるためサクサク開発を進められる
 👉 自然言語によるコード生成ができる（簡単な実装なら比較的高品質）
 👉 直前の操作やコードを解釈して、繰り返しや次に入りそうな実装を予測補完してくれる
 

17. 17 ポイント4：Gemini Code Assist
18. 18 ポイント5：マルチチャネル 使用サービス：Google Drive
 
 • 2024年4月からGoogle DriveもRAG検索先としてコネクターが一般提供されました
 • 利用頻度や利用者数の多いGoogle Driveと連携されることで、情報資産がナレッジになる
 らくらくポイント5：文書検索を楽にしたい
 • Vertex AIが接続できるデータストアが増えたことで、検索性が強化された
 👉 Google Workspace導入企業ではGoogle Driveに営業資料や設計書、マニュアルなど多様な
 　 ドキュメントが集まってくるのでナレッジとして有効活用できるようになる
 👉 Google Driveで検索する時間的コストの削減
 

19. 19 ポイント5：マルチチャネル 使用サービス：Google Drive
 
 

20. 20 システム構成
21. 21 システム構成 システム構成図の各リソース概要
 • Cloud Functions1：
 ◦ Slackからのリクエスト受け取り/レスポンスとCloud Pub/Subにメッセージ発行する
 • Cloud Pub/Sub：
 ◦ 処理を継続させるためにメッセージを発行して、処理に必要なパラメータを保持する
 • Cloud Functions2：
 ◦ Cloud Pub/Subのトピックへのメッセージ発行をトリガーとして起動し処理を実行する
 ◦ Vertex AI Agent BuilderでGCSとGoogle DriveからRAG検索を実行する
 ◦ 実行結果を整形してSlackのWebhookURL先に返す
 

22. 22 実行 スラッシュコマンドで文書検索を実行
 ◦ コマンドごとにデータストアの向き先を分けているため、用途ごとに使い分けを行う

23. 23 実行 スレッドごとに文書検索を実行
 ◦ メンションを当てて実行することでスレッド単位で問い合わせが可能

24. 24 利用者の声 期待すること
 • Google DriveからRAG検索する場合に取得できる情報が少ないため、ここが上手く調整できるとサマリー表 示などで使い勝手が増すと思う
 Google Driveを開いて探さなくても良いので、目的のファイルを見つけやすく なった 普段から使用するSlackから文書検索できるので、ヘルプデスクに問い合わ せる感覚で気軽に使えて良かった 複数のデータ格納場所から検索できるのは結構便利だった
25. 25 さいごに 今回の生成AIを使ったRAG開発がもたらす意味
 
 • 生成AIアプリの開発は意外と手軽に始められる
 ◦ ソースを書いた時間自体はほんの数時間で、想像以上に手軽に開発を進められた。
 ◦ Google Cloudの各種サービスを組み合わせれば生成AIのサービスを簡単に実装できる。
 • チャットアプリへの組み込み
 ◦ チャットボット自体はこれまでも作成できていたが、以前よりも簡単にRAG検索を社内アプリとして組み 込める
 ◦ TeamsやGoogle Chatなど他のチャットツールにおいてもAPI経由で繋ぐことができれば、簡単にRAG機 能や生成AIの機能を組み込める
 • パッケージ化、フレームワーク化ができればどんな環境でも比較的らくらく統合が可能

26. ご清聴ありがとうございました！