Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Text-to-SQLをLangSmithで評価
Search
西岡 賢一郎 (Kenichiro Nishioka)
July 26, 2024
Business
0
230
Text-to-SQLをLangSmithで評価
機械学習の社会実装勉強会第37回 (
https://machine-learning-workshop.connpass.com/event/324630/
) の発表資料です。
西岡 賢一郎 (Kenichiro Nishioka)
July 26, 2024
Tweet
Share
More Decks by 西岡 賢一郎 (Kenichiro Nishioka)
See All by 西岡 賢一郎 (Kenichiro Nishioka)
MCPが変えるAIとの協働
knishioka
0
63
LangFlowではじめるRAG・マルチエージェントシステム構築
knishioka
0
92
DeepSeekを使ったローカルLLM構築
knishioka
0
160
業務ツールをAIエージェントとつなぐ - Composio
knishioka
0
210
LangGraphを使ったHuman in the loop
knishioka
0
250
AIシステムの品質と成功率を向上させるReflection
knishioka
0
46
LangGraph Templatesによる効率的なワークフロー構築
knishioka
0
150
AIエージェントの開発に特化した統合開発環境 LangGraph Studio
knishioka
0
190
LangGraphを用いたAIアプリケーションにおけるメモリ永続化の実践
knishioka
1
540
Other Decks in Business
See All in Business
ダイニーQA Teamのポリシーをつくった話し
gakujit
0
200
プロダクトプランナー・ビジネスコンサルタント職種説明資料
lycorp_recruit_jp
0
9.2k
How multichannel content drives growth (and captures EEAT and Intent)
raysaddiq
0
400
Sales Marker Culture book
salesmarker
PRO
28
44k
日本トライスタイル採用説明資料
yamauguchishunta
0
240
アジアクエスト会社紹介資料 / We invite you!
asiaquest
7
95k
Spice Factory Co., Ltd. Culture Deck
spicefactory
0
3.8k
『プロダクト戦略』を紐解く — 言語化・組織実装・実行までのリアル —
shunikeda
0
400
福島印刷工業株式会社 会社案内
fukushimaprint
0
230
Chemican Overview
aswdv
0
110
Josh Blyskal | Profound | We analyed 10,000,000 AI Search Results...
joshbly
1
1.4k
Sales Marker Culture Book(English)
salesmarker
PRO
2
4.6k
Featured
See All Featured
Keith and Marios Guide to Fast Websites
keithpitt
411
22k
The Cult of Friendly URLs
andyhume
78
6.3k
The Straight Up "How To Draw Better" Workshop
denniskardys
232
140k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
47
5.3k
GraphQLの誤解/rethinking-graphql
sonatard
71
10k
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
331
21k
How to Think Like a Performance Engineer
csswizardry
23
1.5k
Become a Pro
speakerdeck
PRO
27
5.3k
The Art of Delivering Value - GDevCon NA Keynote
reverentgeek
13
1.4k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
178
53k
Done Done
chrislema
183
16k
Rebuilding a faster, lazier Slack
samanthasiow
80
8.9k
Transcript
Text-to-SQLをLangSmithで評価 2024/07/27 第37回勉強会
自己紹介 • 名前: 西岡 賢一郎 ◦ Twitter: @ken_nishi ◦ note:
https://note.com/kenichiro ◦ YouTube: 【経営xデータサイエンスx開発】西岡 賢一郎のチャンネル (https://www.youtube.com/channel/UCpiskjqLv1AJg64jFCQIyBg) • 経歴 ◦ 東京大学で位置予測アルゴリズムを研究し博士 (学術) を取得 ◦ 東京大学の博士課程在学中にデータサイエンスをもとにしたサービスを提供する株式会社ト ライディアを設立 ◦ トライディアを別のIT会社に売却し、CTOとして3年半務め、2021年10月末にCTOを退職 ◦ CDPのスタートアップ (Sr. CSM)・株式会社データインフォームド (CEO)・株式会社ディース タッツ (CTO) ◦ 自社および他社のプロダクト開発チーム・データサイエンスチームの立ち上げ経験
Text-to-SQLの背景と必要性
Text-to-SQLとは • 自然言語の質問やコマンドをSQLクエリに変換する技術 • 例: "30歳以上のユーザーの平均年齢は?" → "SELECT AVG(age) FROM
users WHERE age >= 30;" • Text-to-SQLの仕組み ◦ 自然言語理解 (NLU): ▪ ユーザーが入力した自然言語の質問や要求を解析して、意図を理解します。 ◦ 文脈と構造の抽出: ▪ 質問の文脈や構造を抽出し、どのデータベースのテーブルやカラムが関係して いるかを特定します。 ◦ SQLクエリ生成: ▪ 抽出された情報を基に、適切なSQLクエリを生成します。 ◦ 実行と結果の表示: ▪ 生成されたSQLクエリをデータベースに対して実行し、その結果をユーザーに 返します。
なぜText-to-SQLが必要か • データベースへのアクセシビリティ向上 ◦ SQL非専門家でもデータ分析が可能に ◦ ビジネスユーザーが直接データにアクセス可能 • 開発効率の向上 ◦
繰り返し行われるクエリ作成の自動化 ◦ プロトタイピングの迅速化 • 自然言語インターフェースの実現 ◦ チャットボットやAIアシスタントへの統合 ◦ よりユーザーフレンドリーなデータ探索ツールの 開発 データ抽出依頼 データ抽出 Text-to SQLで データ抽出
Text-to-SQLの評価方法
評価指標の例 1. 正確性 (Correctness) ◦ 生成されたSQLが意図した結果を返すか 2. 効率性 (Efficiency) ◦
生成されたSQLが最適化されているか 3. 可読性 (Readability) ◦ 生成されたSQLが人間にとって理解しやすいか 4. 実行精度 (Execution Accuracy) ◦ 実行結果が期待される結果と一致するか
LangSmithを使ったText-to-SQL評価のデモ
LangSmithの概要 LLMアプリケーション開発でよく使われるLangChainのサー ビスである「LangSmith」は、LLMを楽に評価できる機能を 提供している。 • Evaluatorの設定 ◦ コードを書かずにEvaluatorを設定し、データ セットに紐づけられる •
PlayGround ◦ プログラムを書かずにプロンプトやモデルの設 定をテスト • 中間ステップの評価 ◦ RAGパイプラインなどの中間ステップを詳細に 評価 • 標準Evaluatorの利用: ◦ カスタムコードを書くことなく、標準の Evaluatorを使用 • Annotationの利用 ◦ 実行結果に注釈を追加し、詳細なフィードバッ クを提供
デモ 評価プロセス 1. 評価対象のText-to-SQL modelの定義 2. 評価用データセットの作成 3. カスタム評価器の設定 4.
評価の実行と結果の分析 デモの主要ポイント • SQLiteデータベースの使用 • LangChainのSQLエージェントの活用 • カスタムLLM評価器の実装 • 効率性スコアの計算 • LangSmithでの評価実行と結果の可視化
まとめ • Text-to-SQLはデータアクセシビリティと開発効率を向上 • 多面的な評価が重要: 正確性、効率性、可読性、実行精度 • LangSmithを使用することで、包括的かつ効率的な評価が可能 • 継続的な改善と最適化のためのツールとしてのLangSmithが便利