Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ログラスのLLM・GPTへの向き合い方 / LOGLAS' approach to LLM and GPT
Search
r-kagaya
April 04, 2023
Programming
2
800
ログラスのLLM・GPTへの向き合い方 / LOGLAS' approach to LLM and GPT
r-kagaya
April 04, 2023
Tweet
Share
More Decks by r-kagaya
See All by r-kagaya
Amazon Bedrockで行うモデル評価入門 / Introduction to Model Evaluation in Amazon Bedrock
rkaga
3
970
時系列基盤モデルの世界
rkaga
4
2.1k
TypeScriptでもLLMアプリケーション開発 / LLM Application In Typescript
rkaga
6
1.6k
ログラスの継続的なプロンプト改善のためのLLMOpsの今 / LLMOps at loglass now
rkaga
2
1.1k
GPTsをMVPに使うアジャイルな社内LLMツール開発 / Agile in-house LLM tool development using GPTs as MVPs
rkaga
5
2.1k
Copilot体験の実装に役立ちそうなSemantic interpreter論文 / Semantic Interpreter for copilot implementation
rkaga
0
480
Other Decks in Programming
See All in Programming
Terraformテスト入門
msato
0
540
Introduction of Happy Eyeballs Version 2 (RFC8305) to the Socket library
coe401_
1
220
Namespace on read
tagomoris
2
370
開発部に不満を持っていたCSがエンジニアにジョブチェンしてわかった「勝手に諦めない」ことの大切さ
sakuraikotone
28
16k
ドメイン駆動設計の実践
masuda220
PRO
19
5.2k
Modern Angular: Renovation for Your Applications
manfredsteyer
PRO
0
140
日付と正規化
megmogmog1965
0
140
Google's Recipe for Scaling (Web) Security – LocoMocoSec 2024
lweichselbaum
0
170
CSC307 Lecture 06
javiergs
PRO
0
360
Rust.Nagoya #1
codemountains
0
170
Trial
cairolibrary720
1
130
みんなのオブザーバビリティプラットフォームを作ってるんだがパフォーマンスがやばい #mackerelio #srenext
ne_sachirou
0
370
Featured
See All Featured
Practical Orchestrator
shlominoach
185
10k
Designing the Hi-DPI Web
ddemaree
276
34k
The Power of CSS Pseudo Elements
geoffreycrofte
64
5.2k
Documentation Writing (for coders)
carmenintech
63
4.2k
Web development in the modern age
philhawksworth
203
10k
A better future with KSS
kneath
231
17k
BBQ
matthewcrist
82
9k
Building a Modern Day E-commerce SEO Strategy
aleyda
25
6.7k
WebSockets: Embracing the real-time Web
robhawkes
59
7.2k
Reflections from 52 weeks, 52 projects
jeffersonlam
346
19k
Agile that works and the tools we love
rasmusluckow
325
20k
ParisWeb 2013: Learning to Love: Crash Course in Emotional UX Design
dotmariusz
105
6.8k
Transcript
1 ©2023 Loglass Inc. ログラスのLLM・GPTへの向き合い方 2023.04.04 @r-kagaya 【第二回】ChatGPT選手権!エンジニアリングに組み込んでみましたLT大会
2 ©2023 Loglass Inc. 自己紹介 ログラス株式会社のソフトウェアエンジニア イネーブルメントチームの一員としてプロダクト組織の横断 課題に取り組む 略歴 新卒で入社したヤフー株式会社で
ID連携システムの開発に携わった後 に、2022年に株式会社ログラスに入社 r-kagaya @r-kagaya
3 ©2023 Loglass Inc. ログラスの最近のLLM・GPTの盛り上がり Noteを色々出してる https://note.com/loglass_fukawa/n/n2b383758abc8 https://note.com/loglass_sakamoto/n/n2aaea5974077
4 ©2023 Loglass Inc. ログラスの最近のLLM・GPTの盛り上がり 本イベントの第一回には弊社EMのいとひろも登壇 https://speakerdeck.com/itohiro73/xu-nisukuramukai-fa-gpt-4toren-j ian-kagong-chuang-suruhurotakutonojin-hua https://note.com/itohiro_loglass/n/n0ff2a4b245b2
5 ©2023 Loglass Inc. 実際社内ではどういう動きがあるのか?
6 ©2023 Loglass Inc. ログラスの最近のLLM・GPTの盛り上がり 大きく分けて2つ ①プロダクト・機能への展開 ②社内活用の話(業務の品質と生産性向上)
7 ©2023 Loglass Inc. プロダクト・機能への展開
8 ©2023 Loglass Inc. プロダクト・機能への展開 • LLMを活用した機能リリースができる体制づくり • プロダクトビジョンを実現する上でのHow(LLM・GenAI)の解像度を上げ る
PoCや実験的なリリースを通じて目指している直近のゴール 独自データやワークフローに入り込んでいるなどのプロダクトの強さに加え て、 LLMを活用した機能リリースが出来る体制が、短期的には差別化要因、競 合優位性を生む土台になる可能性を見据えて今から試行錯誤
9 ©2023 Loglass Inc. プロダクト・機能へのPOC事例① text2report(自然言語でのレポート作成機能) • OpenAI APIを自然言語とシステムを繋ぐインターフェースに活用して、 自然言語でシステムを操作
◦ 要するに文章でシステムの一部操作を行える ◦ 精度上げるためにPromptの工夫や正規表現も駆使してる • チャットUXが全てのユースケースで万能だとは思わない • 新規ユーザーや利用頻度が低いユーザーがカジュアルに操作したい場 合に、自然言語を用いたチャットUXは有用では?との仮説
10 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上)
11 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 雑に言うと日々の仕事でとにかく使いこなしていこうという話 -> 多くの社員の業務やオペレーションの改善のための選択肢になっている 状態
> Gen-AIが使いこなせないと、ハイレベルなエンジニアでもローレベルなエン ジニアのパフォーマンスに落ちるかもしれない 引用: GPT-4時代のエンジニアの生存戦略 https://qiita.com/lazy-kz/items/e4932f1a90c2a7986ef5
12 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) そのためにも.... とにかくChatGPT等を社内で使い倒す仕組み、自由にPoCやら実験していく 文化を作れるか? そのためのきっかけづくりや邪魔な小石を除く
13 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 社内でカジュアルに試すためにもデータポリシーの整備を真っ先に始めた • 取扱ポリシー •
情報区分 • 区分毎に誰がどのような基準で判断するのか
14 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 現状の認識やどのターゲットに向けた施策か?を意識するために作成 参考: The Snowplow
Data Maturity Model https://snowplow.io/blog/the-snowplow-data-maturity-model/
15 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 今のフォーカスは • 全員Capable ◦
ex) ChatGPTは学習されるので公開情報のみ! • 身近な業務を改善して、事例を展開できるAdept(達人)を増やす • ネタ寄りの取り組みも盛り込んでワイワイすること (Adept選抜試験とかパイオニア昇格プレーオフとかネタに振り切った取 り組みをやりたい)
16 ©2023 Loglass Inc. 事例その他 • タグの自動認識・自動生成 • LangChainで独自ロジック/データ利用のサジェスト・検索機能 •
OpenAI APIでデモデータ作りするスクリプト • 社内問い合わせBot • サポートサイトFAQの自動生成 • アイディアソン • OST • etc…
17 ©2023 Loglass Inc. まとめ • スタートアップとしてLLM・GenAIには積極的・柔軟にリソースを張ってる • 機械学習技術へのアクセスが容易になった事のインパクトや Howの増加
◦ 複数のPoC事例も全てWebアプリケーションエンジニアが実施 • いずれLLM・GenAIの活用範囲の広がり、プロダクション導入がさらに進んだ世界 を見越して、「LLMを活用した機能リリースが出来る体制」、 「多くの社員の業務や オペレーションの改善のための選択肢になっている」 状態の実現を意識してる • 純粋にワクワクも危機感も感じる面白い技術なのでエンジニアとしてももっと全力 投球していきたい ◦ 業務改善ハックも細かい便利ツールももっと色々やりたい
18