RECRUIT TECH CONFERENCE 2025 プレイベント【高橋】

2025/2/4に開催したRecruit Tech Conference 2025 プレイベントの高橋のLT資料です

Transcript

1. イラストでわかるRAGを用いたbot開発 ＃生成AI　＃機械学習　＃RAG プロダクトディベロップメント室 販促領域プロダクトディ ベロップメント５ユニット（まなび） 教育支援小中高プロ ダクト開発部 小中高ＳＲＥグループ 高橋 あおい RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night-
2. RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- ＃生成AI、＃RAG イラストでわかるRAGを用いたbot開発
3. RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- 高橋 あおい ドラマ鑑賞・読書 経歴 / Career 2021年にリクルートにキャリア採用入社。 オンライン学習サービス「スタディサプリ」の小学生か ら大学受験生向けのSite Reliability Engineer（SRE）と して従事。生成AIに関連する仕事が専門ではない。 趣味 / Hobbies プロダクトディベロップメント室 販促領域プロダ クトディベロップメント５ユニット（まなび） 教 育支援小中高プロダクト開発部 小中高ＳＲＥグルー プ
4. RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- Agenda 1. 仕事紹介 2. RAGとは？ 3. 生成AIを使ったアプリ開発に関わるキーワードをご紹介 4. 実践！Chat Bot開発
5. RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- RAGとは？
6. RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- RAGとは？ Retrieval-Augmented Generation (RAG) • RAGは生成AI分野における用語 • 生成AI + 検索システム = RAG ◦ つまり生成AIを経由してGoogle検索ができるのもRAGの一種 • 仕事でRAGを使いたいケース ◦ すでに情報が蓄積しているデータベースがあり、使いたい ◦ 生成AIに学習させたくないデータを使いたい ◦ 特定の分野に関してのみ精度が高く回答できるようにしたい
7. RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night-
8. RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- 生成AIを使ったアプリ開発に関わるキーワードをご紹介
9. RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- 生成AIを使ったアプリ開発に関わるキーワード①
10. RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- 生成AIを使ったアプリ開発に関わるキーワード② LLM：Large Language Models、大規模言語モデル
11. RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- モデルの違い • モデルが同じだと機能・性能が同じ • モデルによって性能の違いは大きい • Saasベンダーによって使えるモデルが 違う ◦ 「チ。」というアニメはNetflixでしか 見れない、みたいな
12. RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- 生成AIを使ったアプリ開発に関わるキーワード③ LLM-Observability（可観測性） • 普通のアプリケーションの場合 ◦ メトリクス、ログ、トレース... • LLMの場合も同様 ◦ メトリクス ▪ 評価結果はどうだった？正解だった？ ◦ ログ ▪ 生成AIに投げられたクエリ、生成AIから返ってきたクエリ ◦ トレース ▪ 処理にどれくらい時間がかかったか
13. RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- 実践！Chat Bot開発
14. RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- 実践！Chat Bot 開発 • スタディサプリ開発内で使われているbotを事例に説明します • 社内のドキュメントをSlack経由で検索できるbot「saprus(サプラス)」 ◦ 詳細はブログに書いています ▪ https://blog.studysapuri.jp/entry/2024/06/26/100000
15. RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- Chat Botのシステム概要 Azureの場合
16. RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- 開発中の課題と解決策 回答の精度がどれくらいなのかがわか らない ・生成AIに回答の精度を評価させ、 Datadog LLM Observabilityに送信 ・ソースドキュメントのリンクを添付 することで一次情報が確認できる ドキュメントに日英両言語含まれる ドキュメントをアップロードするとき に英語であれば日本語に翻訳する 精度低下をある程度防止したい 読み込む対象ドキュメントを管理して いる →古い情報、誰もメンテしていない情 報が検索結果に出てくるのを防ぐ
17. RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- まとめ • 各SaaSベンダーのマネージドサービスを利用することで生成AIアプリ開発 が楽になってきている • より高度な課題を解決できるようbot開発継続中 ◦ SREの一次対応 ▪ トラブルシューティングをサポート • 次なる目標は「AIエージェント」を作ること ◦ 「AIがAIに指示」「AIが自分で判断」ができるようになってほしい 　　　　→　AI エージェント