データの海原を駆け抜けろ！ Vertex AI Searchが切り拓く、 社内情報検索とナレッジ管理の未来 グリー株式会社 情報システム部 エンジニア 菅原優

菅原優 2021年1月にグリー株式会社に新卒入社し、 現在は情報システム部でエンジニアとして従事。 早く技術的特異点に到達して欲しいと思いながら、 生成AIの業務活用に取り組んでいる。 私の好きな二郎系ラーメンの写真です→ グリー株式会社 情報システム部 エンジニア 2

目次・アジェンダ ● イルカちゃんについて ● 社内の皆様に伝えたいこと ● 会場の皆様に伝えたいこと ● イルカちゃんの裏側 ○ RAGについて ○ 動機 ○ Vertex AI Searchについて ○ 仕組み ○ 学んだこと ● まとめ 3 ここだけで良いので聞いて下さい 時間の都合上、概要のみをお話します。 詳細を知りたい方は、是非セッション後に 情シスブースまでお越しください。

イルカちゃんについて 4

5

社内の皆様に伝えたいこと ● イルカちゃんを使ってください ○ 来週火曜日リリース予定です！！ ○ リリース後は、社内ポータルトップページからアクセス可能になる予定です 6

会場の皆様に伝えたいこと ● Vertex AI Searchは早い・安い・旨い ○ 早い: 専門知識が無くとも、簡単に特定の情報源を対象とする検索エンジンを構築できる ○ 安い: $4.00 / 1,000 クエリ + データインデックス料金 ※ 我々のユースケースの場合 ○ 旨い: 高精度な検索結果、欲しい情報がちゃんと出てくる喜び ● RAGはすごく便利 ○ 検索に要約機能が付くと一気に近未来感が出てくる ● 会場内情シスブースへお越しください ○ 情シスはブース出展にかなり力を入れています ○ イルカちゃん(デモ版)を触れます(予定) 7

イルカちゃんの裏側 8

RAG(Retrieval-Augmented Generation) ● LLMによるテキスト生成と情報検索を組み合わせると強い ○ ハルシネーションが起きづらい ○ 生成したテキストの根拠が明確になる ○ 複数の情報源を使ってシンプルな回答を返してくれる 9

動機 ● 社内の情報があらゆる所に散逸しており、探すのが大変 ○ e.g. Slack, Google Drive, SharePoint, Confluence, FAQスプシ, 社員情報 … ● → 全部まとめて検索したい！ ● → Google Cloud Searchを使っていたが… ○ メンテが大変、UIのカスタムができない、APIが用意されていない ● → Google CloudからVertex AI Searchがリリースされた ○ 置き換えたら性能もコストも改善するのでは？ ○ せっかくだしAIブームの潮流に乗らねば！ 10

Vertex AI Searchについて ● Google Cloudが提供する検索エンジン ● セマンティック検索 ○ 大規模言語モデル(LLM)を活用し、ユーザーの意図を理解して最適な検索結果を返す ● 様々なデータソースに対応 ○ e.g. ウェブサイト、構造化データ、非構造化データ、... ○ 特定のサービスとの紐づけを容易に行うためのコネクタも(そこそこ)充実 ● シンプルかつ良心的な料金形態 ○ 基本は データインデックス料金(5 $/GB/月) + クエリ料金(0.002 $/検索) ○ 高度な機能を使う場合、クエリ料金が高くなる 11

仕組み 12

学んだこと 13

Gemini 1.5 Flash はとても賢い 14 ● 嘘を嘘と見抜ける

プロンプトエンジニアリングは奥深い 15 口調指定無し: PCに水をこぼした場合、速やかにITSDにご連 絡ください。 放置すると、故障やショートの原因となる可 能性があります。 口調指定有り: わあ、大変だったね💦 PCに水をこぼしてしまった場合は、すぐに ITSDに連絡するのが良いみたいだよ！ ITSDに連絡したら、状況を説明して指示を仰 いでね。 PCをそのまま放置すると、故障や ショートの原因になることもあるみたいだか ら、すぐに相談するのが大切だよ！

使いやすいUI設計は難しい(けど大事) 16 Before After

まとめ 17 ● Vertex AI Search + Gemini を使って社内情報横断検索システムを作った ○ プロンプトエンジニアリングやUI設計、データパイプライン作成等頑張りました ● 社内への宣伝: ○ 来週リリース予定なのでぜひ触ってみてください ● 会場の皆様への宣伝: ○ 情シスブースでデモ版を用意しています ○ 情シス外、社外での導入支援についてもお気軽にご相談ください ○ この後、同じく情シスから沓澤さんがTrack Aで発表を行います。お楽しみに！ ■ システム横断型のグループ管理ツール「Groupee」について

ご清聴ありがとうございました 18

No content