Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ログラスのLLM・GPTへの向き合い方 / LOGLAS' approach to LLM ...
Search
r-kagaya
April 04, 2023
Programming
2
820
ログラスのLLM・GPTへの向き合い方 / LOGLAS' approach to LLM and GPT
r-kagaya
April 04, 2023
Tweet
Share
More Decks by r-kagaya
See All by r-kagaya
音声AIエージェントの世界とRetell AI入門 / Introduction to the World of Voice AI Agents and Retell AI
rkaga
4
890
Amazon Bedrockで行うモデル評価入門 / Introduction to Model Evaluation in Amazon Bedrock
rkaga
3
1.2k
時系列基盤モデルの世界
rkaga
6
2.9k
TypeScriptでもLLMアプリケーション開発 / LLM Application In Typescript
rkaga
6
1.8k
ログラスの継続的なプロンプト改善のためのLLMOpsの今 / LLMOps at loglass now
rkaga
2
1.3k
GPTsをMVPに使うアジャイルな社内LLMツール開発 / Agile in-house LLM tool development using GPTs as MVPs
rkaga
5
2.2k
Copilot体験の実装に役立ちそうなSemantic interpreter論文 / Semantic Interpreter for copilot implementation
rkaga
0
500
Other Decks in Programming
See All in Programming
What you can do with Ruby on WebAssembly
kateinoigakukun
0
140
How to Break into Reading Open Source
kaspth
0
130
ESLint Rule により事業, 技術ドメインに沿った制約と誓約を敷衍させるアプローチのすゝめ
shinyaigeek
1
3k
事業フェーズの変化に対応する 開発生産性向上のゼロイチ
masaygggg
0
160
Rubyとクリエイティブコーディングの輪の広がり / The Growing Circle of Ruby and Creative Coding
chobishiba
1
250
What is Parser
yui_knk
9
4k
エラーレスポンス設計から考える、0→1開発におけるGraphQLへの向き合い方
bicstone
5
1.5k
『ドメイン駆動設計をはじめよう』中核の業務領域
masuda220
PRO
5
960
Jakarta EE meets AI
ivargrimstad
0
340
Rustではじめる負荷試験
skanehira
5
1.2k
rails_girls_is_my_gate_to_join_the_ruby_commuinty
maimux2x
0
190
Kotlin 2.0が与えるAndroid開発の進化
masayukisuda
1
260
Featured
See All Featured
A Tale of Four Properties
chriscoyier
155
22k
How GitHub Uses GitHub to Build GitHub
holman
472
290k
Happy Clients
brianwarren
96
6.6k
Testing 201, or: Great Expectations
jmmastey
36
7k
Code Reviewing Like a Champion
maltzj
518
39k
In The Pink: A Labor of Love
frogandcode
139
22k
Fashionably flexible responsive web design (full day workshop)
malarkey
401
65k
Speed Design
sergeychernyshev
21
420
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
131
32k
Put a Button on it: Removing Barriers to Going Fast.
kastner
58
3.4k
The MySQL Ecosystem @ GitHub 2015
samlambert
250
12k
5 minutes of I Can Smell Your CMS
philhawksworth
201
19k
Transcript
1 ©2023 Loglass Inc. ログラスのLLM・GPTへの向き合い方 2023.04.04 @r-kagaya 【第二回】ChatGPT選手権!エンジニアリングに組み込んでみましたLT大会
2 ©2023 Loglass Inc. 自己紹介 ログラス株式会社のソフトウェアエンジニア イネーブルメントチームの一員としてプロダクト組織の横断 課題に取り組む 略歴 新卒で入社したヤフー株式会社で
ID連携システムの開発に携わった後 に、2022年に株式会社ログラスに入社 r-kagaya @r-kagaya
3 ©2023 Loglass Inc. ログラスの最近のLLM・GPTの盛り上がり Noteを色々出してる https://note.com/loglass_fukawa/n/n2b383758abc8 https://note.com/loglass_sakamoto/n/n2aaea5974077
4 ©2023 Loglass Inc. ログラスの最近のLLM・GPTの盛り上がり 本イベントの第一回には弊社EMのいとひろも登壇 https://speakerdeck.com/itohiro73/xu-nisukuramukai-fa-gpt-4toren-j ian-kagong-chuang-suruhurotakutonojin-hua https://note.com/itohiro_loglass/n/n0ff2a4b245b2
5 ©2023 Loglass Inc. 実際社内ではどういう動きがあるのか?
6 ©2023 Loglass Inc. ログラスの最近のLLM・GPTの盛り上がり 大きく分けて2つ ①プロダクト・機能への展開 ②社内活用の話(業務の品質と生産性向上)
7 ©2023 Loglass Inc. プロダクト・機能への展開
8 ©2023 Loglass Inc. プロダクト・機能への展開 • LLMを活用した機能リリースができる体制づくり • プロダクトビジョンを実現する上でのHow(LLM・GenAI)の解像度を上げ る
PoCや実験的なリリースを通じて目指している直近のゴール 独自データやワークフローに入り込んでいるなどのプロダクトの強さに加え て、 LLMを活用した機能リリースが出来る体制が、短期的には差別化要因、競 合優位性を生む土台になる可能性を見据えて今から試行錯誤
9 ©2023 Loglass Inc. プロダクト・機能へのPOC事例① text2report(自然言語でのレポート作成機能) • OpenAI APIを自然言語とシステムを繋ぐインターフェースに活用して、 自然言語でシステムを操作
◦ 要するに文章でシステムの一部操作を行える ◦ 精度上げるためにPromptの工夫や正規表現も駆使してる • チャットUXが全てのユースケースで万能だとは思わない • 新規ユーザーや利用頻度が低いユーザーがカジュアルに操作したい場 合に、自然言語を用いたチャットUXは有用では?との仮説
10 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上)
11 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 雑に言うと日々の仕事でとにかく使いこなしていこうという話 -> 多くの社員の業務やオペレーションの改善のための選択肢になっている 状態
> Gen-AIが使いこなせないと、ハイレベルなエンジニアでもローレベルなエン ジニアのパフォーマンスに落ちるかもしれない 引用: GPT-4時代のエンジニアの生存戦略 https://qiita.com/lazy-kz/items/e4932f1a90c2a7986ef5
12 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) そのためにも.... とにかくChatGPT等を社内で使い倒す仕組み、自由にPoCやら実験していく 文化を作れるか? そのためのきっかけづくりや邪魔な小石を除く
13 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 社内でカジュアルに試すためにもデータポリシーの整備を真っ先に始めた • 取扱ポリシー •
情報区分 • 区分毎に誰がどのような基準で判断するのか
14 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 現状の認識やどのターゲットに向けた施策か?を意識するために作成 参考: The Snowplow
Data Maturity Model https://snowplow.io/blog/the-snowplow-data-maturity-model/
15 ©2023 Loglass Inc. 社内活用の話 (業務の品質と生産性向上) 今のフォーカスは • 全員Capable ◦
ex) ChatGPTは学習されるので公開情報のみ! • 身近な業務を改善して、事例を展開できるAdept(達人)を増やす • ネタ寄りの取り組みも盛り込んでワイワイすること (Adept選抜試験とかパイオニア昇格プレーオフとかネタに振り切った取 り組みをやりたい)
16 ©2023 Loglass Inc. 事例その他 • タグの自動認識・自動生成 • LangChainで独自ロジック/データ利用のサジェスト・検索機能 •
OpenAI APIでデモデータ作りするスクリプト • 社内問い合わせBot • サポートサイトFAQの自動生成 • アイディアソン • OST • etc…
17 ©2023 Loglass Inc. まとめ • スタートアップとしてLLM・GenAIには積極的・柔軟にリソースを張ってる • 機械学習技術へのアクセスが容易になった事のインパクトや Howの増加
◦ 複数のPoC事例も全てWebアプリケーションエンジニアが実施 • いずれLLM・GenAIの活用範囲の広がり、プロダクション導入がさらに進んだ世界 を見越して、「LLMを活用した機能リリースが出来る体制」、 「多くの社員の業務や オペレーションの改善のための選択肢になっている」 状態の実現を意識してる • 純粋にワクワクも危機感も感じる面白い技術なのでエンジニアとしてももっと全力 投球していきたい ◦ 業務改善ハックも細かい便利ツールももっと色々やりたい
18