Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ログラスのLLM・GPTへの向き合い方 / LOGLAS' approach to LLM and GPT
Search
r-kagaya
April 04, 2023
Programming
2
770
ログラスのLLM・GPTへの向き合い方 / LOGLAS' approach to LLM and GPT
r-kagaya
April 04, 2023
Tweet
Share
More Decks by r-kagaya
See All by r-kagaya
ログラスの継続的なプロンプト改善のためのLLMOpsの今 / LLMOps at loglass now
rkaga
2
810
GPTsをMVPに使うアジャイルな社内LLMツール開発 / Agile in-house LLM tool development using GPTs as MVPs
rkaga
5
1.8k
Copilot体験の実装に役立ちそうなSemantic interpreter論文 / Semantic Interpreter for copilot implementation
rkaga
0
420
Other Decks in Programming
See All in Programming
2024 コーディング研修
ckazu
0
190
Documentation for users with AsciiDoc and Antora
ahus1
0
370
Git Rebase
bkuhlmann
11
1.6k
TCAとKMPを用いた新規動画配信アプリ 「ABEMA Live」の設計
tomu28
2
130
AWS CDKコントリビュートTIPS / aws-cdk-contribution-tips
gotok365
4
530
見た目から始める生産性向上
ikumatadokoro
10
1.5k
Ruby Function Composition
bkuhlmann
1
340
MicrosoftのPlatform Engineeringガイドを読んで実際になにかやってみた
ymd65536
1
530
使ってみよう Azure AI Document Intelligence
kosmosebi
2
370
SIMD Parallel Programming with the Vector API
josepaumard
0
240
Elm 0.19.0 Changes
bkuhlmann
0
510
大規模UIKitベースアプリへのTCAの段階的導入/gradual-adoption-of-tca-in-a-large-scale-uikit-based-app
takehilo
2
210
Featured
See All Featured
The Illustrated Children's Guide to Kubernetes
chrisshort
32
47k
Why Our Code Smells
bkeepers
PRO
331
56k
The Mythical Team-Month
searls
217
42k
Statistics for Hackers
jakevdp
790
220k
How STYLIGHT went responsive
nonsquared
92
4.8k
Faster Mobile Websites
deanohume
300
30k
The Straight Up "How To Draw Better" Workshop
denniskardys
228
130k
How to name files
jennybc
65
93k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
41
4.4k
Building Your Own Lightsaber
phodgson
100
5.7k
VelocityConf: Rendering Performance Case Studies
addyosmani
321
23k
Writing Fast Ruby
sferik
622
60k
Transcript
1 ©2023 Loglass Inc. ログラスのLLM・GPTへの向き合い方 2023.04.04 @r-kagaya 【第二回】ChatGPT選手権!エンジニアリングに組み込んでみましたLT大会
2 ©2023 Loglass Inc. 自己紹介 ログラス株式会社のソフトウェアエンジニア イネーブルメントチームの一員としてプロダクト組織の横断 課題に取り組む 略歴 新卒で入社したヤフー株式会社で
ID連携システムの開発に携わった後 に、2022年に株式会社ログラスに入社 r-kagaya @r-kagaya
3 ©2023 Loglass Inc. ログラスの最近のLLM・GPTの盛り上がり Noteを色々出してる https://note.com/loglass_fukawa/n/n2b383758abc8 https://note.com/loglass_sakamoto/n/n2aaea5974077
4 ©2023 Loglass Inc. ログラスの最近のLLM・GPTの盛り上がり 本イベントの第一回には弊社EMのいとひろも登壇 https://speakerdeck.com/itohiro73/xu-nisukuramukai-fa-gpt-4toren-j ian-kagong-chuang-suruhurotakutonojin-hua https://note.com/itohiro_loglass/n/n0ff2a4b245b2
5 ©2023 Loglass Inc. 実際社内ではどういう動きがあるのか?
6 ©2023 Loglass Inc. ログラスの最近のLLM・GPTの盛り上がり 大きく分けて2つ ①プロダクト・機能への展開 ②社内活用の話(業務の品質と生産性向上)
7 ©2023 Loglass Inc. プロダクト・機能への展開
8 ©2023 Loglass Inc. プロダクト・機能への展開 • LLMを活用した機能リリースができる体制づくり • プロダクトビジョンを実現する上でのHow(LLM・GenAI)の解像度を上げ る
PoCや実験的なリリースを通じて目指している直近のゴール 独自データやワークフローに入り込んでいるなどのプロダクトの強さに加え て、 LLMを活用した機能リリースが出来る体制が、短期的には差別化要因、競 合優位性を生む土台になる可能性を見据えて今から試行錯誤
9 ©2023 Loglass Inc. プロダクト・機能へのPOC事例① text2report(自然言語でのレポート作成機能) • OpenAI APIを自然言語とシステムを繋ぐインターフェースに活用して、 自然言語でシステムを操作
◦ 要するに文章でシステムの一部操作を行える ◦ 精度上げるためにPromptの工夫や正規表現も駆使してる • チャットUXが全てのユースケースで万能だとは思わない • 新規ユーザーや利用頻度が低いユーザーがカジュアルに操作したい場 合に、自然言語を用いたチャットUXは有用では?との仮説
10 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上)
11 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 雑に言うと日々の仕事でとにかく使いこなしていこうという話 -> 多くの社員の業務やオペレーションの改善のための選択肢になっている 状態
> Gen-AIが使いこなせないと、ハイレベルなエンジニアでもローレベルなエン ジニアのパフォーマンスに落ちるかもしれない 引用: GPT-4時代のエンジニアの生存戦略 https://qiita.com/lazy-kz/items/e4932f1a90c2a7986ef5
12 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) そのためにも.... とにかくChatGPT等を社内で使い倒す仕組み、自由にPoCやら実験していく 文化を作れるか? そのためのきっかけづくりや邪魔な小石を除く
13 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 社内でカジュアルに試すためにもデータポリシーの整備を真っ先に始めた • 取扱ポリシー •
情報区分 • 区分毎に誰がどのような基準で判断するのか
14 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 現状の認識やどのターゲットに向けた施策か?を意識するために作成 参考: The Snowplow
Data Maturity Model https://snowplow.io/blog/the-snowplow-data-maturity-model/
15 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 今のフォーカスは • 全員Capable ◦
ex) ChatGPTは学習されるので公開情報のみ! • 身近な業務を改善して、事例を展開できるAdept(達人)を増やす • ネタ寄りの取り組みも盛り込んでワイワイすること (Adept選抜試験とかパイオニア昇格プレーオフとかネタに振り切った取 り組みをやりたい)
16 ©2023 Loglass Inc. 事例その他 • タグの自動認識・自動生成 • LangChainで独自ロジック/データ利用のサジェスト・検索機能 •
OpenAI APIでデモデータ作りするスクリプト • 社内問い合わせBot • サポートサイトFAQの自動生成 • アイディアソン • OST • etc…
17 ©2023 Loglass Inc. まとめ • スタートアップとしてLLM・GenAIには積極的・柔軟にリソースを張ってる • 機械学習技術へのアクセスが容易になった事のインパクトや Howの増加
◦ 複数のPoC事例も全てWebアプリケーションエンジニアが実施 • いずれLLM・GenAIの活用範囲の広がり、プロダクション導入がさらに進んだ世界 を見越して、「LLMを活用した機能リリースが出来る体制」、 「多くの社員の業務や オペレーションの改善のための選択肢になっている」 状態の実現を意識してる • 純粋にワクワクも危機感も感じる面白い技術なのでエンジニアとしてももっと全力 投球していきたい ◦ 業務改善ハックも細かい便利ツールももっと色々やりたい
18