Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
データの海原を駆け抜けろ!「Vertex AI Search」が切り拓く、社内情報検索とナレッ...
Search
gree_tech
PRO
October 25, 2024
Video
Technology
1
110
データの海原を駆け抜けろ!「Vertex AI Search」が切り拓く、社内情報検索とナレッジ管理の未来
GREE Tech Conference 2024で発表された資料です。
https://techcon.gree.jp/2024/session/Short-Session-2
gree_tech
PRO
October 25, 2024
Tweet
Share
Video
More Decks by gree_tech
See All by gree_tech
REALITY株式会社における開発生産性向上の取り組み: 失敗と成功から学んだこと
gree_tech
PRO
2
130
『ヘブンバーンズレッド』におけるフィールドギミックの裏側
gree_tech
PRO
2
90
セキュリティインシデント対応の体制・運用の試行錯誤 / greetechcon2024-session-a1
gree_tech
PRO
1
96
『アナザーエデン 時空を超える猫』国内海外同時運営実現への道のり ~別々で開発されたアプリを安定して同時リリースするまでの取り組み~
gree_tech
PRO
1
78
『アサルトリリィ Last Bullet』におけるクラウドストリーミング技術を用いたブラウザゲーム化の紹介
gree_tech
PRO
1
89
UnityによるPCアプリの新しい選択肢。「PC版 Google Play Games」への対応について
gree_tech
PRO
1
110
実機ビルドのエラーによる検証ブロッカーを0に!『ヘブンバーンズレッド』のスモークテスト自動化の取り組み
gree_tech
PRO
1
110
"ゲームQA業界の技術向上を目指す! 会社を超えた研究会の取り組み"
gree_tech
PRO
1
140
Jamstack でリニューアルするグリーグループのメディア
gree_tech
PRO
2
300
Other Decks in Technology
See All in Technology
エンジニア人生の拡張性を高める 「探索型キャリア設計」の提案
tenshoku_draft
1
120
SREによる隣接領域への越境とその先の信頼性
shonansurvivors
2
510
EventHub Startup CTO of the year 2024 ピッチ資料
eventhub
0
110
20241120_JAWS_東京_ランチタイムLT#17_AWS認定全冠の先へ
tsumita
2
230
B2B SaaSから見た最近のC#/.NETの進化
sansantech
PRO
0
670
これまでの計測・開発・デプロイ方法全部見せます! / Findy ISUCON 2024-11-14
tohutohu
3
360
元旅行会社の情シス部員が教えるおすすめなre:Inventへの行き方 / What is the most efficient way to re:Invent
naospon
2
330
iOS/Androidで同じUI体験をネ イティブで作成する際に気をつ けたい落とし穴
fumiyasac0921
1
110
【若手エンジニア応援LT会】ソフトウェアを学んできた私がインフラエンジニアを目指した理由
kazushi_ohata
0
150
スクラムチームを立ち上げる〜チーム開発で得られたもの・得られなかったもの〜
ohnoeight
2
350
【令和最新版】AWS Direct Connectと愉快なGWたちのおさらい
minorun365
PRO
5
750
BLADE: An Attempt to Automate Penetration Testing Using Autonomous AI Agents
bbrbbq
0
290
Featured
See All Featured
Creating an realtime collaboration tool: Agile Flush - .NET Oxford
marcduiker
25
1.8k
Producing Creativity
orderedlist
PRO
341
39k
Building Better People: How to give real-time feedback that sticks.
wjessup
364
19k
BBQ
matthewcrist
85
9.3k
Optimising Largest Contentful Paint
csswizardry
33
2.9k
GraphQLの誤解/rethinking-graphql
sonatard
67
10k
Navigating Team Friction
lara
183
14k
Designing for Performance
lara
604
68k
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
329
21k
Performance Is Good for Brains [We Love Speed 2024]
tammyeverts
6
410
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
28
2k
Measuring & Analyzing Core Web Vitals
bluesmoon
4
120
Transcript
データの海原を駆け抜けろ! Vertex AI Searchが切り拓く、 社内情報検索とナレッジ管理の未来 グリー株式会社 情報システム部 エンジニア 菅原優
菅原優 2021年1月にグリー株式会社に新卒入社し、 現在は情報システム部でエンジニアとして従事。 早く技術的特異点に到達して欲しいと思いながら、 生成AIの業務活用に取り組んでいる。 私の好きな二郎系ラーメンの写真です→ グリー株式会社 情報システム部 エンジニア 2
目次・アジェンダ • イルカちゃんについて • 社内の皆様に伝えたいこと • 会場の皆様に伝えたいこと • イルカちゃんの裏側 ◦
RAGについて ◦ 動機 ◦ Vertex AI Searchについて ◦ 仕組み ◦ 学んだこと • まとめ 3 ここだけで良いので聞いて下さい 時間の都合上、概要のみをお話します。 詳細を知りたい方は、是非セッション後に 情シスブースまでお越しください。
イルカちゃんについて 4
5
社内の皆様に伝えたいこと • イルカちゃんを使ってください ◦ 来週火曜日リリース予定です!! ◦ リリース後は、社内ポータルトップページからアクセス可能になる予定です 6
会場の皆様に伝えたいこと • Vertex AI Searchは早い・安い・旨い ◦ 早い: 専門知識が無くとも、簡単に特定の情報源を対象とする検索エンジンを構築できる ◦ 安い:
$4.00 / 1,000 クエリ + データインデックス料金 ※ 我々のユースケースの場合 ◦ 旨い: 高精度な検索結果、欲しい情報がちゃんと出てくる喜び • RAGはすごく便利 ◦ 検索に要約機能が付くと一気に近未来感が出てくる • 会場内情シスブースへお越しください ◦ 情シスはブース出展にかなり力を入れています ◦ イルカちゃん(デモ版)を触れます(予定) 7
イルカちゃんの裏側 8
RAG(Retrieval-Augmented Generation) • LLMによるテキスト生成と情報検索を組み合わせると強い ◦ ハルシネーションが起きづらい ◦ 生成したテキストの根拠が明確になる ◦ 複数の情報源を使ってシンプルな回答を返してくれる
9
動機 • 社内の情報があらゆる所に散逸しており、探すのが大変 ◦ e.g. Slack, Google Drive, SharePoint, Confluence,
FAQスプシ, 社員情報 … • → 全部まとめて検索したい! • → Google Cloud Searchを使っていたが… ◦ メンテが大変、UIのカスタムができない、APIが用意されていない • → Google CloudからVertex AI Searchがリリースされた ◦ 置き換えたら性能もコストも改善するのでは? ◦ せっかくだしAIブームの潮流に乗らねば! 10
Vertex AI Searchについて • Google Cloudが提供する検索エンジン • セマンティック検索 ◦ 大規模言語モデル(LLM)を活用し、ユーザーの意図を理解して最適な検索結果を返す
• 様々なデータソースに対応 ◦ e.g. ウェブサイト、構造化データ、非構造化データ、... ◦ 特定のサービスとの紐づけを容易に行うためのコネクタも(そこそこ)充実 • シンプルかつ良心的な料金形態 ◦ 基本は データインデックス料金(5 $/GB/月) + クエリ料金(0.002 $/検索) ◦ 高度な機能を使う場合、クエリ料金が高くなる 11
仕組み 12
学んだこと 13
Gemini 1.5 Flash はとても賢い 14 • 嘘を嘘と見抜ける
プロンプトエンジニアリングは奥深い 15 口調指定無し: PCに水をこぼした場合、速やかにITSDにご連 絡ください。 放置すると、故障やショートの原因となる可 能性があります。 口調指定有り: わあ、大変だったね💦 PCに水をこぼしてしまった場合は、すぐに
ITSDに連絡するのが良いみたいだよ! ITSDに連絡したら、状況を説明して指示を仰 いでね。 PCをそのまま放置すると、故障や ショートの原因になることもあるみたいだか ら、すぐに相談するのが大切だよ!
使いやすいUI設計は難しい(けど大事) 16 Before After
まとめ 17 • Vertex AI Search + Gemini を使って社内情報横断検索システムを作った ◦
プロンプトエンジニアリングやUI設計、データパイプライン作成等頑張りました • 社内への宣伝: ◦ 来週リリース予定なのでぜひ触ってみてください • 会場の皆様への宣伝: ◦ 情シスブースでデモ版を用意しています ◦ 情シス外、社外での導入支援についてもお気軽にご相談ください ◦ この後、同じく情シスから沓澤さんがTrack Aで発表を行います。お楽しみに! ▪ システム横断型のグループ管理ツール「Groupee」について
ご清聴ありがとうございました 18
None