Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
20241121_[TechTalk#2]虎の穴ラボでのLLMについて取り組み紹介
Search
虎の穴ラボ株式会社
November 22, 2024
Technology
0
85
20241121_[TechTalk#2]虎の穴ラボでのLLMについて取り組み紹介
虎の穴ラボ Tech Talk #2 〜LLM活用LT〜での発表資料です
https://yumenosora.connpass.com/event/335158/
虎の穴ラボ株式会社
November 22, 2024
Tweet
Share
More Decks by 虎の穴ラボ株式会社
See All by 虎の穴ラボ株式会社
Tailwind CSSとAtomic Designで実現する効率的な Web 開発の事例
toranoana
1
480
Denoについて、同人誌記事を出しました+update
toranoana
0
160
【虎の穴ラボ Tech Talk #2】プロンプトエンジニアリング
toranoana
0
93
社内チャットへRAG導入した話(Tech Talk #2)
toranoana
0
150
Deno Deploy で Web Cache API を 使えるようになったので試した知見
toranoana
1
510
【虎の穴ラボ Tech Talk】虎の穴ラボTech Talk説明資料
toranoana
0
360
虎の穴ラボ Tech Talk_CDKでFargate環境構築
toranoana
1
380
虎の穴ラボスキルアップ支援制度の利用例
toranoana
0
6.6k
【虎の穴ラボ Tech Talk #1】Ansible Lintの警告への対処
toranoana
1
410
Other Decks in Technology
See All in Technology
Sansanのデータプロダクトマネジメントのアプローチ
sansantech
PRO
0
180
タイミーのデータモデリング事例と今後のチャレンジ
ttccddtoki
6
2.5k
CDK Vibe Coding Fes
tomoki10
0
150
NewSQLや分散データベースを支えるRaftの仕組み - 仕組みを理解して知る得意不得意
hacomono
PRO
3
180
整頓のジレンマとの戦い〜Tidy First?で振り返る事業とキャリアの歩み〜/Fighting the tidiness dilemma〜Business and Career Milestones Reflected on in Tidy First?〜
bitkey
3
17k
React開発にStorybookとCopilotを導入して、爆速でUIを編集・確認する方法
yu_kod
1
300
品質と速度の両立:生成AI時代の品質保証アプローチ
odasho
1
390
Glacierだからってコストあきらめてない? / JAWS Meet Glacier Cost
taishin
1
170
VS CodeとGitHub Copilotで爆速開発!アップデートの波に乗るおさらい会 / Rapid Development with VS Code and GitHub Copilot: Catch the Latest Wave
yamachu
2
170
面倒な作業はAIにおまかせ。Flutter開発をスマートに効率化
ruideengineer
0
330
CDKTFについてざっくり理解する!!~CloudFormationからCDKTFへ変換するツールも作ってみた~
masakiokuda
1
180
オーティファイ会社紹介資料 / Autify Company Deck
autifyhq
10
130k
Featured
See All Featured
Docker and Python
trallard
44
3.5k
CoffeeScript is Beautiful & I Never Want to Write Plain JavaScript Again
sstephenson
161
15k
The MySQL Ecosystem @ GitHub 2015
samlambert
251
13k
Fashionably flexible responsive web design (full day workshop)
malarkey
407
66k
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
8
690
Statistics for Hackers
jakevdp
799
220k
Music & Morning Musume
bryan
46
6.6k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
29
9.6k
Site-Speed That Sticks
csswizardry
10
690
Navigating Team Friction
lara
187
15k
Optimising Largest Contentful Paint
csswizardry
37
3.3k
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
44
2.4k
Transcript
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボでのLLMについて取り組み紹介
虎の穴ラボ株式会社 藤原佳顕 1
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 目次
1. 自己紹介 2. 概要 3. 虎の穴ラボ社内での LLM活用と技術紹介 4. まとめ 2
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 自己紹介ページ
(藤原) 藤原 佳顕(ふじわら よしあき) : yoshiaki fujiwara ‣ Webエンジニア ‣ 新規事業担当(Fantia、Creatia)、アーキテクトチーム (CSIRTも) ‣ 前職:独立系ソフトウェア会社、主に GISとWeb、ライブラリ開発 ‣ TypeScript、Ruby on Rails、C#、C++ ‣ React、Vue、Angular ‣ 入社理由 ‣ 自分がスキルアップできそうな場所に行きたい ‣ オタク系の話ができるところに行きたい 好きなモノ ‣ シューティングゲーム、格闘ゲーム、アトラスのゲーム ‣ SF小説 ‣ プログラミング 3
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 概要
• 虎の穴ラボではLLMの活用について積極的に取り組んでいます • 今回の発表では具体的に現在どのような形でLLMを活用しているか紹介し ます • 主に活用のために構築された社内システム、利用している外部サービス、 どの様に活用を推進しているかなどについて話します • 今回の発表は主に概要になります。より詳細は今後の発表等にご期待くだ さい 4
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 虎の穴ラボで利用中のLLM関連システムについては以下ブログに記事があ ります ◦ 虎の穴ラボに「OpenAI API」と「GitHub Copilot」を正式導入し、 「ChatGPT Plus」を技術支援制度の対象としました ▪ https://toranoana-lab.hatenablog.com/entry/2023/04/14/1 20000 ◦ 虎の穴ラボではGitHub Copilot for Businessを導入しています! ▪ https://toranoana-lab.hatenablog.com/entry/2023/11/08/1 00000 5
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 社内LLM活用のための要素技術 ◦ OpenAI API ▪ 社内専用アプリのAI基盤としてはOpenAIを利用中 ◦ Python+Django ▪ 上記APIを組み合わせてアプリにするために利用 ◦ LangChain ▪ RAGなどの構築等に利用 ◦ React/Next.js ▪ Chat系ツールのUI構築に利用 6
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• LLM活用のための社内制度 ◦ 個人で利用するAI関連の費用補助 ▪ Copilot、OpenAI API、ChatGPT Plus ▪ 既存の福利厚生である書籍補助の延長線上 ◦ GitHub Copilot for Business ▪ 通常のプロダクト開発に利用 ▪ オプションのON/OFFなどを一括管理するために会社で導入 ◦ 先述した技術を利用した社内チャットアプリ ▪ OSSのUIを利用した通常のチャットアプリ ▪ 社内ドキュメントを元に回答を作成できるチャットアプリ ◦ 一部の社員のみChatGPT Teamを利用 ▪ こちらは現状お試し段階で一定レイヤ以上で利用中 7
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 社内チャットアプリ(https://github.com/mckaywrigley/chatbot-ui/ の旧版ベース) 8
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 社内チャットアプリのRAG機能:ファイルアップロードしてそれを元に色々聞ける 9
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 社内QA関連:Wikiなどを読み込ませてそれをもとに回答してくる(LangChain利用) 10
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 利用率等のログ ◦ 問い合わせ内容まで表示すると萎縮につながる可能性があるため文字数だけ分かる形でマ スキング 11
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• GitHub Copilotの活用 12
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• GitHub Copilotの活用 13
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. まとめ
• 虎の穴ラボが取り組んでいるLLM関連の事例について紹介しました • また、どの様に活用しているかや、利用技術についても紹介しまし た • 今後の課題としてはもっと可視化を進める必要がある ◦ システム組み込んでも効果がわからないので • また、具体的なシステム化とかも考える必要がある • 今後の発表で個別の詳しい事例や研究内容が発表されるかと思いま すので乞うご期待 14