Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
データの海原を駆け抜けろ!「Vertex AI Search」が切り拓く、社内情報検索とナレッ...
Search
gree_tech
PRO
October 25, 2024
Video
Technology
1
62
データの海原を駆け抜けろ!「Vertex AI Search」が切り拓く、社内情報検索とナレッジ管理の未来
GREE Tech Conference 2024で発表された資料です。
https://techcon.gree.jp/2024/session/Short-Session-2
gree_tech
PRO
October 25, 2024
Tweet
Share
Video
More Decks by gree_tech
See All by gree_tech
REALITY株式会社における開発生産性向上の取り組み: 失敗と成功から学んだこと
gree_tech
PRO
1
100
『ヘブンバーンズレッド』におけるフィールドギミックの裏側
gree_tech
PRO
2
70
セキュリティインシデント対応の体制・運用の試行錯誤 / greetechcon2024-session-a1
gree_tech
PRO
1
71
『アナザーエデン 時空を超える猫』国内海外同時運営実現への道のり ~別々で開発されたアプリを安定して同時リリースするまでの取り組み~
gree_tech
PRO
1
55
『アサルトリリィ Last Bullet』におけるクラウドストリーミング技術を用いたブラウザゲーム化の紹介
gree_tech
PRO
1
57
UnityによるPCアプリの新しい選択肢。「PC版 Google Play Games」への対応について
gree_tech
PRO
1
62
実機ビルドのエラーによる検証ブロッカーを0に!『ヘブンバーンズレッド』のスモークテスト自動化の取り組み
gree_tech
PRO
1
88
"ゲームQA業界の技術向上を目指す! 会社を超えた研究会の取り組み"
gree_tech
PRO
1
120
Jamstack でリニューアルするグリーグループのメディア
gree_tech
PRO
2
270
Other Decks in Technology
See All in Technology
IaC運用を楽にするためにCDK Pipelinesを導入したけど、思い通りにいかなかった話
smt7174
1
130
20241031_AWS_生成AIハッカソン_GenMuck
tsumita
0
120
ZOZOTOWNでの推薦システム活用事例の紹介
f6wbl6
0
230
Mini Tokyo 3D × PLATEAU - 公共交通デジタルツインにリアルな風景を
nagix
1
180
プロダクト成長に対応するプラットフォーム戦略:Authleteによる共通認証基盤の移行事例 / Building an authentication platform using Authlete and AWS
kakehashi
1
170
【技術書典17】OpenFOAM(自宅で極める流体解析)2次元円柱まわりの流れ
kamakiri1225
0
250
10分でわかるfreeeのQA
freee
1
3.4k
いろんなものと両立する Kaggleの向き合い方
go5paopao
1
190
[AWS JAPAN 生成AIハッカソン] Dialog の紹介
yoshimi0227
0
170
フロントエンド メタフレームワーク 選定の際に考えたこと
yuppeeng
0
330
国土交通省 データコンペ参加者向け勉強会
takehikohashimoto
0
270
10分でわかるfreee エンジニア向け会社説明資料
freee
18
520k
Featured
See All Featured
Teambox: Starting and Learning
jrom
132
8.7k
XXLCSS - How to scale CSS and keep your sanity
sugarenia
246
1.3M
Art, The Web, and Tiny UX
lynnandtonic
297
20k
The Cult of Friendly URLs
andyhume
78
6k
Rebuilding a faster, lazier Slack
samanthasiow
79
8.6k
The Language of Interfaces
destraynor
154
24k
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
41
2.2k
A Philosophy of Restraint
colly
203
16k
Scaling GitHub
holman
458
140k
RailsConf 2023
tenderlove
29
880
YesSQL, Process and Tooling at Scale
rocio
167
14k
GitHub's CSS Performance
jonrohan
1030
460k
Transcript
データの海原を駆け抜けろ! Vertex AI Searchが切り拓く、 社内情報検索とナレッジ管理の未来 グリー株式会社 情報システム部 エンジニア 菅原優
菅原優 2021年1月にグリー株式会社に新卒入社し、 現在は情報システム部でエンジニアとして従事。 早く技術的特異点に到達して欲しいと思いながら、 生成AIの業務活用に取り組んでいる。 私の好きな二郎系ラーメンの写真です→ グリー株式会社 情報システム部 エンジニア 2
目次・アジェンダ • イルカちゃんについて • 社内の皆様に伝えたいこと • 会場の皆様に伝えたいこと • イルカちゃんの裏側 ◦
RAGについて ◦ 動機 ◦ Vertex AI Searchについて ◦ 仕組み ◦ 学んだこと • まとめ 3 ここだけで良いので聞いて下さい 時間の都合上、概要のみをお話します。 詳細を知りたい方は、是非セッション後に 情シスブースまでお越しください。
イルカちゃんについて 4
5
社内の皆様に伝えたいこと • イルカちゃんを使ってください ◦ 来週火曜日リリース予定です!! ◦ リリース後は、社内ポータルトップページからアクセス可能になる予定です 6
会場の皆様に伝えたいこと • Vertex AI Searchは早い・安い・旨い ◦ 早い: 専門知識が無くとも、簡単に特定の情報源を対象とする検索エンジンを構築できる ◦ 安い:
$4.00 / 1,000 クエリ + データインデックス料金 ※ 我々のユースケースの場合 ◦ 旨い: 高精度な検索結果、欲しい情報がちゃんと出てくる喜び • RAGはすごく便利 ◦ 検索に要約機能が付くと一気に近未来感が出てくる • 会場内情シスブースへお越しください ◦ 情シスはブース出展にかなり力を入れています ◦ イルカちゃん(デモ版)を触れます(予定) 7
イルカちゃんの裏側 8
RAG(Retrieval-Augmented Generation) • LLMによるテキスト生成と情報検索を組み合わせると強い ◦ ハルシネーションが起きづらい ◦ 生成したテキストの根拠が明確になる ◦ 複数の情報源を使ってシンプルな回答を返してくれる
9
動機 • 社内の情報があらゆる所に散逸しており、探すのが大変 ◦ e.g. Slack, Google Drive, SharePoint, Confluence,
FAQスプシ, 社員情報 … • → 全部まとめて検索したい! • → Google Cloud Searchを使っていたが… ◦ メンテが大変、UIのカスタムができない、APIが用意されていない • → Google CloudからVertex AI Searchがリリースされた ◦ 置き換えたら性能もコストも改善するのでは? ◦ せっかくだしAIブームの潮流に乗らねば! 10
Vertex AI Searchについて • Google Cloudが提供する検索エンジン • セマンティック検索 ◦ 大規模言語モデル(LLM)を活用し、ユーザーの意図を理解して最適な検索結果を返す
• 様々なデータソースに対応 ◦ e.g. ウェブサイト、構造化データ、非構造化データ、... ◦ 特定のサービスとの紐づけを容易に行うためのコネクタも(そこそこ)充実 • シンプルかつ良心的な料金形態 ◦ 基本は データインデックス料金(5 $/GB/月) + クエリ料金(0.002 $/検索) ◦ 高度な機能を使う場合、クエリ料金が高くなる 11
仕組み 12
学んだこと 13
Gemini 1.5 Flash はとても賢い 14 • 嘘を嘘と見抜ける
プロンプトエンジニアリングは奥深い 15 口調指定無し: PCに水をこぼした場合、速やかにITSDにご連 絡ください。 放置すると、故障やショートの原因となる可 能性があります。 口調指定有り: わあ、大変だったね💦 PCに水をこぼしてしまった場合は、すぐに
ITSDに連絡するのが良いみたいだよ! ITSDに連絡したら、状況を説明して指示を仰 いでね。 PCをそのまま放置すると、故障や ショートの原因になることもあるみたいだか ら、すぐに相談するのが大切だよ!
使いやすいUI設計は難しい(けど大事) 16 Before After
まとめ 17 • Vertex AI Search + Gemini を使って社内情報横断検索システムを作った ◦
プロンプトエンジニアリングやUI設計、データパイプライン作成等頑張りました • 社内への宣伝: ◦ 来週リリース予定なのでぜひ触ってみてください • 会場の皆様への宣伝: ◦ 情シスブースでデモ版を用意しています ◦ 情シス外、社外での導入支援についてもお気軽にご相談ください ◦ この後、同じく情シスから沓澤さんがTrack Aで発表を行います。お楽しみに! ▪ システム横断型のグループ管理ツール「Groupee」について
ご清聴ありがとうございました 18
None