データの海原を駆け抜けろ！「Vertex AI Search」が切り拓く、社内情報検索とナレッジ管理の未来

GREE Tech Conference 2024で発表された資料です。
https://techcon.gree.jp/2024/session/Short-Session-2

Transcript

1. データの海原を駆け抜けろ！ Vertex AI Searchが切り拓く、 社内情報検索とナレッジ管理の未来 グリー株式会社 情報システム部 エンジニア 菅原優
2. 菅原優 2021年1月にグリー株式会社に新卒入社し、 現在は情報システム部でエンジニアとして従事。 早く技術的特異点に到達して欲しいと思いながら、 生成AIの業務活用に取り組んでいる。 私の好きな二郎系ラーメンの写真です→ グリー株式会社 情報システム部 エンジニア 2
3. 目次・アジェンダ • イルカちゃんについて • 社内の皆様に伝えたいこと • 会場の皆様に伝えたいこと • イルカちゃんの裏側 ◦ RAGについて ◦ 動機 ◦ Vertex AI Searchについて ◦ 仕組み ◦ 学んだこと • まとめ 3 ここだけで良いので聞いて下さい 時間の都合上、概要のみをお話します。 詳細を知りたい方は、是非セッション後に 情シスブースまでお越しください。
4. イルカちゃんについて 4
6. 社内の皆様に伝えたいこと • イルカちゃんを使ってください ◦ 来週火曜日リリース予定です！！ ◦ リリース後は、社内ポータルトップページからアクセス可能になる予定です 6
7. 会場の皆様に伝えたいこと • Vertex AI Searchは早い・安い・旨い ◦ 早い: 専門知識が無くとも、簡単に特定の情報源を対象とする検索エンジンを構築できる ◦ 安い: $4.00 / 1,000 クエリ + データインデックス料金 ※ 我々のユースケースの場合 ◦ 旨い: 高精度な検索結果、欲しい情報がちゃんと出てくる喜び • RAGはすごく便利 ◦ 検索に要約機能が付くと一気に近未来感が出てくる • 会場内情シスブースへお越しください ◦ 情シスはブース出展にかなり力を入れています ◦ イルカちゃん(デモ版)を触れます(予定) 7
8. イルカちゃんの裏側 8
9. RAG(Retrieval-Augmented Generation) • LLMによるテキスト生成と情報検索を組み合わせると強い ◦ ハルシネーションが起きづらい ◦ 生成したテキストの根拠が明確になる ◦ 複数の情報源を使ってシンプルな回答を返してくれる 9
10. 動機 • 社内の情報があらゆる所に散逸しており、探すのが大変 ◦ e.g. Slack, Google Drive, SharePoint, Confluence, FAQスプシ, 社員情報 … • → 全部まとめて検索したい！ • → Google Cloud Searchを使っていたが… ◦ メンテが大変、UIのカスタムができない、APIが用意されていない • → Google CloudからVertex AI Searchがリリースされた ◦ 置き換えたら性能もコストも改善するのでは？ ◦ せっかくだしAIブームの潮流に乗らねば！ 10
11. Vertex AI Searchについて • Google Cloudが提供する検索エンジン • セマンティック検索 ◦ 大規模言語モデル(LLM)を活用し、ユーザーの意図を理解して最適な検索結果を返す • 様々なデータソースに対応 ◦ e.g. ウェブサイト、構造化データ、非構造化データ、... ◦ 特定のサービスとの紐づけを容易に行うためのコネクタも(そこそこ)充実 • シンプルかつ良心的な料金形態 ◦ 基本は データインデックス料金(5 $/GB/月) + クエリ料金(0.002 $/検索) ◦ 高度な機能を使う場合、クエリ料金が高くなる 11
12. 仕組み 12
13. 学んだこと 13
14. Gemini 1.5 Flash はとても賢い 14 • 嘘を嘘と見抜ける
15. プロンプトエンジニアリングは奥深い 15 口調指定無し: PCに水をこぼした場合、速やかにITSDにご連 絡ください。 放置すると、故障やショートの原因となる可 能性があります。 口調指定有り: わあ、大変だったね💦 PCに水をこぼしてしまった場合は、すぐに ITSDに連絡するのが良いみたいだよ！ ITSDに連絡したら、状況を説明して指示を仰 いでね。 PCをそのまま放置すると、故障や ショートの原因になることもあるみたいだか ら、すぐに相談するのが大切だよ！
16. 使いやすいUI設計は難しい(けど大事) 16 Before After
17. まとめ 17 • Vertex AI Search + Gemini を使って社内情報横断検索システムを作った ◦ プロンプトエンジニアリングやUI設計、データパイプライン作成等頑張りました • 社内への宣伝: ◦ 来週リリース予定なのでぜひ触ってみてください • 会場の皆様への宣伝: ◦ 情シスブースでデモ版を用意しています ◦ 情シス外、社外での導入支援についてもお気軽にご相談ください ◦ この後、同じく情シスから沓澤さんがTrack Aで発表を行います。お楽しみに！ ▪ システム横断型のグループ管理ツール「Groupee」について
18. ご清聴ありがとうございました 18