Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
データの海原を駆け抜けろ!「Vertex AI Search」が切り拓く、社内情報検索とナレッ...
Search
gree_tech
PRO
October 25, 2024
Video
Technology
1
750
データの海原を駆け抜けろ!「Vertex AI Search」が切り拓く、社内情報検索とナレッジ管理の未来
GREE Tech Conference 2024で発表された資料です。
https://techcon.gree.jp/2024/session/Short-Session-2
gree_tech
PRO
October 25, 2024
Tweet
Share
Video
More Decks by gree_tech
See All by gree_tech
コミュニケーションに鍵を見いだす、エンジニア1年目の経験談
gree_tech
PRO
0
130
REALITY株式会社における開発生産性向上の取り組み: 失敗と成功から学んだこと
gree_tech
PRO
2
1.7k
『ヘブンバーンズレッド』におけるフィールドギミックの裏側
gree_tech
PRO
2
580
セキュリティインシデント対応の体制・運用の試行錯誤 / greetechcon2024-session-a1
gree_tech
PRO
1
580
『アナザーエデン 時空を超える猫』国内海外同時運営実現への道のり ~別々で開発されたアプリを安定して同時リリースするまでの取り組み~
gree_tech
PRO
1
550
『アサルトリリィ Last Bullet』におけるクラウドストリーミング技術を用いたブラウザゲーム化の紹介
gree_tech
PRO
1
640
UnityによるPCアプリの新しい選択肢。「PC版 Google Play Games」への対応について
gree_tech
PRO
1
1k
実機ビルドのエラーによる検証ブロッカーを0に!『ヘブンバーンズレッド』のスモークテスト自動化の取り組み
gree_tech
PRO
1
660
"ゲームQA業界の技術向上を目指す! 会社を超えた研究会の取り組み"
gree_tech
PRO
1
780
Other Decks in Technology
See All in Technology
第4回Snowflake 金融ユーザー会 Snowflake summit recap
tamaoki
1
330
【あのMCPって、どんな処理してるの?】 AWS CDKでの開発で便利なAWS MCP Servers特集
yoshimi0227
6
630
「Chatwork」のEKS環境を支えるhelmfileを使用したマニフェスト管理術
hanayo04
1
220
クラウド開発の舞台裏とSRE文化の醸成 / SRE NEXT 2025 Lunch Session
kazeburo
1
420
PO初心者が考えた ”POらしさ”
nb_rady
0
230
Enhancing SaaS Product Reliability and Release Velocity through Optimized Testing Approach
ropqa
1
250
AIの全社活用を推進するための安全なレールを敷いた話
shoheimitani
2
610
freeeのアクセシビリティの現在地 / freee's Current Position on Accessibility
ymrl
2
260
[SRE NEXT] ARR150億円_エンジニア140名_27チーム_17プロダクトから始めるSLO.pdf
satos
3
1.8k
モニタリング統一への道のり - 分散モニタリングツール統合のためのオブザーバビリティプロジェクト
niftycorp
PRO
1
260
SREの次のキャリアの道しるべ 〜SREがマネジメントレイヤーに挑戦して、 気づいたこととTips〜
coconala_engineer
1
850
スタートアップに選択肢を 〜生成AIを活用したセカンダリー事業への挑戦〜
nstock
0
280
Featured
See All Featured
Rebuilding a faster, lazier Slack
samanthasiow
83
9.1k
Creating an realtime collaboration tool: Agile Flush - .NET Oxford
marcduiker
30
2.1k
Writing Fast Ruby
sferik
628
62k
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
53
2.9k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
46
9.6k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
34
3.1k
How GitHub (no longer) Works
holman
314
140k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
107
19k
Embracing the Ebb and Flow
colly
86
4.7k
How To Stay Up To Date on Web Technology
chriscoyier
790
250k
Why You Should Never Use an ORM
jnunemaker
PRO
58
9.4k
Building Applications with DynamoDB
mza
95
6.5k
Transcript
データの海原を駆け抜けろ! Vertex AI Searchが切り拓く、 社内情報検索とナレッジ管理の未来 グリー株式会社 情報システム部 エンジニア 菅原優
菅原優 2021年1月にグリー株式会社に新卒入社し、 現在は情報システム部でエンジニアとして従事。 早く技術的特異点に到達して欲しいと思いながら、 生成AIの業務活用に取り組んでいる。 私の好きな二郎系ラーメンの写真です→ グリー株式会社 情報システム部 エンジニア 2
目次・アジェンダ • イルカちゃんについて • 社内の皆様に伝えたいこと • 会場の皆様に伝えたいこと • イルカちゃんの裏側 ◦
RAGについて ◦ 動機 ◦ Vertex AI Searchについて ◦ 仕組み ◦ 学んだこと • まとめ 3 ここだけで良いので聞いて下さい 時間の都合上、概要のみをお話します。 詳細を知りたい方は、是非セッション後に 情シスブースまでお越しください。
イルカちゃんについて 4
5
社内の皆様に伝えたいこと • イルカちゃんを使ってください ◦ 来週火曜日リリース予定です!! ◦ リリース後は、社内ポータルトップページからアクセス可能になる予定です 6
会場の皆様に伝えたいこと • Vertex AI Searchは早い・安い・旨い ◦ 早い: 専門知識が無くとも、簡単に特定の情報源を対象とする検索エンジンを構築できる ◦ 安い:
$4.00 / 1,000 クエリ + データインデックス料金 ※ 我々のユースケースの場合 ◦ 旨い: 高精度な検索結果、欲しい情報がちゃんと出てくる喜び • RAGはすごく便利 ◦ 検索に要約機能が付くと一気に近未来感が出てくる • 会場内情シスブースへお越しください ◦ 情シスはブース出展にかなり力を入れています ◦ イルカちゃん(デモ版)を触れます(予定) 7
イルカちゃんの裏側 8
RAG(Retrieval-Augmented Generation) • LLMによるテキスト生成と情報検索を組み合わせると強い ◦ ハルシネーションが起きづらい ◦ 生成したテキストの根拠が明確になる ◦ 複数の情報源を使ってシンプルな回答を返してくれる
9
動機 • 社内の情報があらゆる所に散逸しており、探すのが大変 ◦ e.g. Slack, Google Drive, SharePoint, Confluence,
FAQスプシ, 社員情報 … • → 全部まとめて検索したい! • → Google Cloud Searchを使っていたが… ◦ メンテが大変、UIのカスタムができない、APIが用意されていない • → Google CloudからVertex AI Searchがリリースされた ◦ 置き換えたら性能もコストも改善するのでは? ◦ せっかくだしAIブームの潮流に乗らねば! 10
Vertex AI Searchについて • Google Cloudが提供する検索エンジン • セマンティック検索 ◦ 大規模言語モデル(LLM)を活用し、ユーザーの意図を理解して最適な検索結果を返す
• 様々なデータソースに対応 ◦ e.g. ウェブサイト、構造化データ、非構造化データ、... ◦ 特定のサービスとの紐づけを容易に行うためのコネクタも(そこそこ)充実 • シンプルかつ良心的な料金形態 ◦ 基本は データインデックス料金(5 $/GB/月) + クエリ料金(0.002 $/検索) ◦ 高度な機能を使う場合、クエリ料金が高くなる 11
仕組み 12
学んだこと 13
Gemini 1.5 Flash はとても賢い 14 • 嘘を嘘と見抜ける
プロンプトエンジニアリングは奥深い 15 口調指定無し: PCに水をこぼした場合、速やかにITSDにご連 絡ください。 放置すると、故障やショートの原因となる可 能性があります。 口調指定有り: わあ、大変だったね💦 PCに水をこぼしてしまった場合は、すぐに
ITSDに連絡するのが良いみたいだよ! ITSDに連絡したら、状況を説明して指示を仰 いでね。 PCをそのまま放置すると、故障や ショートの原因になることもあるみたいだか ら、すぐに相談するのが大切だよ!
使いやすいUI設計は難しい(けど大事) 16 Before After
まとめ 17 • Vertex AI Search + Gemini を使って社内情報横断検索システムを作った ◦
プロンプトエンジニアリングやUI設計、データパイプライン作成等頑張りました • 社内への宣伝: ◦ 来週リリース予定なのでぜひ触ってみてください • 会場の皆様への宣伝: ◦ 情シスブースでデモ版を用意しています ◦ 情シス外、社外での導入支援についてもお気軽にご相談ください ◦ この後、同じく情シスから沓澤さんがTrack Aで発表を行います。お楽しみに! ▪ システム横断型のグループ管理ツール「Groupee」について
ご清聴ありがとうございました 18
None