Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
{{guidance}}のガイダンス / Guidance of guidance
Search
Henry Cui
June 24, 2023
Programming
0
140
{{guidance}}のガイダンス / Guidance of guidance
Henry Cui
June 24, 2023
Tweet
Share
More Decks by Henry Cui
See All by Henry Cui
プロダクション言語モデルの情報を盗む攻撃 / Stealing Part of a Production Language Model
zchenry
0
68
Direct Preference Optimization
zchenry
0
260
Diffusion Model with Perceptual Loss
zchenry
0
210
レンズの下のLLM / LLM under the Lens
zchenry
0
140
Go with the Prompt Flow
zchenry
0
130
Mojo Dojo
zchenry
1
170
ことのはの力で画像の異常検知 / Anomaly Detection by Language
zchenry
0
340
驚愕の事実!LangChainが抱える問題 / Problems of LangChain
zchenry
0
160
MLOps初心者がMLflowを触る / MLflow Brief Introduction
zchenry
0
80
Other Decks in Programming
See All in Programming
為醫療加裝Python的引擎
cclai999
0
270
タイミーにおけるデータの利用シーンと データ基盤の挑戦
marufeuille
4
3.1k
Iteratorでページネーションを実現する
sonatard
3
700
"型"のあるRailsアプリケーション開発 / Typed Rails application development
sinsoku
8
2.2k
App Router 悲喜交々
quramy
7
370
5年分のツケを一気に払った話
soogie
3
1.2k
Infrastructure as Code でセキュリティを楽にしよう!
konokenj
5
1.4k
ECS向けのドリフト検知機構を実装してみた
tkikuc
0
270
XP2024 っていう国際会議に行ってきたよの記 / XP2024 Conference Report
bonotake
4
170
CDKを活用した 大規模コンテナ移行 プロジェクトの紹介
yoyoyopg
0
240
A Journey of Contribution and Collaboration in Open Source
ivargrimstad
0
170
AWS Lambda Web Adapterを活用する新しいサーバーレスの実装パターン
tmokmss
6
5.6k
Featured
See All Featured
Web development in the modern age
philhawksworth
205
10k
The Invisible Side of Design
smashingmag
297
50k
Designing for humans not robots
tammielis
249
25k
How STYLIGHT went responsive
nonsquared
94
5.1k
Testing 201, or: Great Expectations
jmmastey
38
7k
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
2
220
What's in a price? How to price your products and services
michaelherold
243
11k
Raft: Consensus for Rubyists
vanstee
136
6.6k
Mobile First: as difficult as doing things right
swwweet
222
8.8k
Typedesign – Prime Four
hannesfritz
39
2.3k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
26
1.9k
No one is an island. Learnings from fostering a developers community.
thoeni
19
2.9k
Transcript
{{guidance}}のガイダンス 機械学習の社会実装勉強会第24回 Henry 2023/6/24
背景 ▪ LLM (Large Language Model、大規模言語モデル)は世界を 席巻している ▪ OpenAIのChatGPT等だけでなく、オープンソースのLLMも含 めて、より効率的に扱うためのライブラリ
guidance がマイクロ ソフトが先日リリース ▪ langchainとsemantic-kernelがすでにある中で、guidanceに ついて見ていく 2
内容 ▪ テンプレート言語 ▪ 基本文法 ▪ gen関数 3
テンプレート言語 ▪ guidanceはHandlebarsというテンプレート言語を採用してい ます • しかし文法は完全に一致しているわけでもない ▪ Handlebarsは元々HTMLなどを構成するためのフロントエンド で使われるテンプレート言語 •
https://handlebarsjs.com/guide/#what-is-handlebars 4
基本文法 ▪ どのLLMを使うかを先に指定 • 後で引数として渡せるが、事前に指定したほうがわかりやすい ▪ テンプレートの文字列を渡して、オブジェクトを定義 • ここの自由度が高い •
入出力とgen関数 ▪ 呼び出して実行する 5
gen関数 ▪ gen関数に色々な引数が渡せる • name • stop • n •
temperature • max_tokens • … 6
まとめ ▪ LLMを扱うライブラリ guidance の紹介 ▪ 基本文法と肝心な関数の基本的な紹介 ▪ guidance の他の便利な機能やより高度な使い方も紹介した
い 7