Tweet
Tweet

Slide 1

Slide 1 text

イラストでわかるRAGを用いたbot開発 ＃生成AI　＃機械学習　＃RAG プロダクトディベロップメント室 販促領域プロダクトディ ベロップメント５ユニット（まなび） 教育支援小中高プロ ダクト開発部 小中高ＳＲＥグループ 高橋 あおい RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night-

Slide 2

Slide 2 text

RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- ＃生成AI、＃RAG イラストでわかるRAGを用いたbot開発

Slide 3

Slide 3 text

RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- 高橋 あおい ドラマ鑑賞・読書 経歴 / Career 2021年にリクルートにキャリア採用入社。 オンライン学習サービス「スタディサプリ」の小学生か ら大学受験生向けのSite Reliability Engineer（SRE）と して従事。生成AIに関連する仕事が専門ではない。 趣味 / Hobbies プロダクトディベロップメント室 販促領域プロダ クトディベロップメント５ユニット（まなび） 教 育支援小中高プロダクト開発部 小中高ＳＲＥグルー プ

Slide 4

Slide 4 text

RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- Agenda 1. 仕事紹介 2. RAGとは？ 3. 生成AIを使ったアプリ開発に関わるキーワードをご紹介 4. 実践！Chat Bot開発

Slide 5

Slide 5 text

RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- RAGとは？

Slide 6

Slide 6 text

RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- RAGとは？ Retrieval-Augmented Generation (RAG) ● RAGは生成AI分野における用語 ● 生成AI + 検索システム = RAG ○ つまり生成AIを経由してGoogle検索ができるのもRAGの一種 ● 仕事でRAGを使いたいケース ○ すでに情報が蓄積しているデータベースがあり、使いたい ○ 生成AIに学習させたくないデータを使いたい ○ 特定の分野に関してのみ精度が高く回答できるようにしたい

Slide 7

Slide 7 text

RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night-

Slide 8

Slide 8 text

RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- 生成AIを使ったアプリ開発に関わるキーワードをご紹介

Slide 9

Slide 9 text

RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- 生成AIを使ったアプリ開発に関わるキーワード①

Slide 10

Slide 10 text

RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- 生成AIを使ったアプリ開発に関わるキーワード② LLM：Large Language Models、大規模言語モデル

Slide 11

Slide 11 text

RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- モデルの違い ● モデルが同じだと機能・性能が同じ ● モデルによって性能の違いは大きい ● Saasベンダーによって使えるモデルが 違う ○ 「チ。」というアニメはNetflixでしか 見れない、みたいな

Slide 12

Slide 12 text

RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- 生成AIを使ったアプリ開発に関わるキーワード③ LLM-Observability（可観測性） ● 普通のアプリケーションの場合 ○ メトリクス、ログ、トレース... ● LLMの場合も同様 ○ メトリクス ■ 評価結果はどうだった？正解だった？ ○ ログ ■ 生成AIに投げられたクエリ、生成AIから返ってきたクエリ ○ トレース ■ 処理にどれくらい時間がかかったか

Slide 13

Slide 13 text

RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- 実践！Chat Bot開発

Slide 14

Slide 14 text

RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- 実践！Chat Bot 開発 ● スタディサプリ開発内で使われているbotを事例に説明します ● 社内のドキュメントをSlack経由で検索できるbot「saprus(サプラス)」 ○ 詳細はブログに書いています ■ https://blog.studysapuri.jp/entry/2024/06/26/100000

Slide 15

Slide 15 text

RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- Chat Botのシステム概要 Azureの場合

Slide 16

Slide 16 text

RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- 開発中の課題と解決策 回答の精度がどれくらいなのかがわか らない ・生成AIに回答の精度を評価させ、 Datadog LLM Observabilityに送信 ・ソースドキュメントのリンクを添付 することで一次情報が確認できる ドキュメントに日英両言語含まれる ドキュメントをアップロードするとき に英語であれば日本語に翻訳する 精度低下をある程度防止したい 読み込む対象ドキュメントを管理して いる →古い情報、誰もメンテしていない情 報が検索結果に出てくるのを防ぐ

Slide 17

Slide 17 text

RECRUIT TECH CONFERENCE 2025 プレイベント -LT Night- まとめ ● 各SaaSベンダーのマネージドサービスを利用することで生成AIアプリ開発 が楽になってきている ● より高度な課題を解決できるようbot開発継続中 ○ SREの一次対応 ■ トラブルシューティングをサポート ● 次なる目標は「AIエージェント」を作ること ○ 「AIがAIに指示」「AIが自分で判断」ができるようになってほしい 　　　　→　AI エージェント