Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
20241121_[TechTalk#2]虎の穴ラボでのLLMについて取り組み紹介
Search
虎の穴ラボ株式会社
November 22, 2024
Technology
0
98
20241121_[TechTalk#2]虎の穴ラボでのLLMについて取り組み紹介
虎の穴ラボ Tech Talk #2 〜LLM活用LT〜での発表資料です
https://yumenosora.connpass.com/event/335158/
虎の穴ラボ株式会社
November 22, 2024
Tweet
Share
More Decks by 虎の穴ラボ株式会社
See All by 虎の穴ラボ株式会社
Tailwind CSSとAtomic Designで実現する効率的な Web 開発の事例
toranoana
1
520
Denoについて、同人誌記事を出しました+update
toranoana
0
170
【虎の穴ラボ Tech Talk #2】プロンプトエンジニアリング
toranoana
0
110
社内チャットへRAG導入した話(Tech Talk #2)
toranoana
0
170
Deno Deploy で Web Cache API を 使えるようになったので試した知見
toranoana
1
550
【虎の穴ラボ Tech Talk】虎の穴ラボTech Talk説明資料
toranoana
0
390
虎の穴ラボ Tech Talk_CDKでFargate環境構築
toranoana
1
420
虎の穴ラボスキルアップ支援制度の利用例
toranoana
0
7.6k
【虎の穴ラボ Tech Talk #1】Ansible Lintの警告への対処
toranoana
1
450
Other Decks in Technology
See All in Technology
S3アクセス制御の設計ポイント
tommy0124
3
190
EncryptedSharedPreferences が deprecated になっちゃった!どうしよう! / Oh no! EncryptedSharedPreferences has been deprecated! What should I do?
yanzm
0
190
人工衛星のファームウェアをRustで書く理由
koba789
13
7.1k
生成AI時代のデータ基盤設計〜ペースレイヤリングで実現する高速開発と持続性〜 / Levtech Meetup_Session_2
sansan_randd
1
150
現場で効くClaude Code ─ 最新動向と企業導入
takaakikakei
1
210
共有と分離 - Compose Multiplatform "本番導入" の設計指針
error96num
1
360
フィンテック養成勉強会#56
finengine
0
140
サラリーマンの小遣いで作るtoCサービス - Cloudflare Workersでスケールする開発戦略
shinaps
2
400
COVESA VSSによる車両データモデルの標準化とAWS IoT FleetWiseの活用
osawa
1
260
これでもう迷わない!Jetpack Composeの書き方実践ガイド
zozotech
PRO
0
300
なぜSaaSがMCPサーバーをサービス提供するのか?
sansantech
PRO
8
2.7k
AI開発ツールCreateがAnythingになったよ
tendasato
0
120
Featured
See All Featured
GraphQLとの向き合い方2022年版
quramy
49
14k
KATA
mclloyd
32
14k
BBQ
matthewcrist
89
9.8k
Making the Leap to Tech Lead
cromwellryan
135
9.5k
Producing Creativity
orderedlist
PRO
347
40k
The Power of CSS Pseudo Elements
geoffreycrofte
77
6k
Cheating the UX When There Is Nothing More to Optimize - PixelPioneers
stephaniewalter
285
13k
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
8
920
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
51
5.6k
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
139
34k
Rebuilding a faster, lazier Slack
samanthasiow
83
9.2k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
PRO
187
55k
Transcript
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボでのLLMについて取り組み紹介
虎の穴ラボ株式会社 藤原佳顕 1
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 目次
1. 自己紹介 2. 概要 3. 虎の穴ラボ社内での LLM活用と技術紹介 4. まとめ 2
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 自己紹介ページ
(藤原) 藤原 佳顕(ふじわら よしあき) : yoshiaki fujiwara ‣ Webエンジニア ‣ 新規事業担当(Fantia、Creatia)、アーキテクトチーム (CSIRTも) ‣ 前職:独立系ソフトウェア会社、主に GISとWeb、ライブラリ開発 ‣ TypeScript、Ruby on Rails、C#、C++ ‣ React、Vue、Angular ‣ 入社理由 ‣ 自分がスキルアップできそうな場所に行きたい ‣ オタク系の話ができるところに行きたい 好きなモノ ‣ シューティングゲーム、格闘ゲーム、アトラスのゲーム ‣ SF小説 ‣ プログラミング 3
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 概要
• 虎の穴ラボではLLMの活用について積極的に取り組んでいます • 今回の発表では具体的に現在どのような形でLLMを活用しているか紹介し ます • 主に活用のために構築された社内システム、利用している外部サービス、 どの様に活用を推進しているかなどについて話します • 今回の発表は主に概要になります。より詳細は今後の発表等にご期待くだ さい 4
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 虎の穴ラボで利用中のLLM関連システムについては以下ブログに記事があ ります ◦ 虎の穴ラボに「OpenAI API」と「GitHub Copilot」を正式導入し、 「ChatGPT Plus」を技術支援制度の対象としました ▪ https://toranoana-lab.hatenablog.com/entry/2023/04/14/1 20000 ◦ 虎の穴ラボではGitHub Copilot for Businessを導入しています! ▪ https://toranoana-lab.hatenablog.com/entry/2023/11/08/1 00000 5
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 社内LLM活用のための要素技術 ◦ OpenAI API ▪ 社内専用アプリのAI基盤としてはOpenAIを利用中 ◦ Python+Django ▪ 上記APIを組み合わせてアプリにするために利用 ◦ LangChain ▪ RAGなどの構築等に利用 ◦ React/Next.js ▪ Chat系ツールのUI構築に利用 6
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• LLM活用のための社内制度 ◦ 個人で利用するAI関連の費用補助 ▪ Copilot、OpenAI API、ChatGPT Plus ▪ 既存の福利厚生である書籍補助の延長線上 ◦ GitHub Copilot for Business ▪ 通常のプロダクト開発に利用 ▪ オプションのON/OFFなどを一括管理するために会社で導入 ◦ 先述した技術を利用した社内チャットアプリ ▪ OSSのUIを利用した通常のチャットアプリ ▪ 社内ドキュメントを元に回答を作成できるチャットアプリ ◦ 一部の社員のみChatGPT Teamを利用 ▪ こちらは現状お試し段階で一定レイヤ以上で利用中 7
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 社内チャットアプリ(https://github.com/mckaywrigley/chatbot-ui/ の旧版ベース) 8
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 社内チャットアプリのRAG機能:ファイルアップロードしてそれを元に色々聞ける 9
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 社内QA関連:Wikiなどを読み込ませてそれをもとに回答してくる(LangChain利用) 10
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• 利用率等のログ ◦ 問い合わせ内容まで表示すると萎縮につながる可能性があるため文字数だけ分かる形でマ スキング 11
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• GitHub Copilotの活用 12
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介
• GitHub Copilotの活用 13
Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. まとめ
• 虎の穴ラボが取り組んでいるLLM関連の事例について紹介しました • また、どの様に活用しているかや、利用技術についても紹介しまし た • 今後の課題としてはもっと可視化を進める必要がある ◦ システム組み込んでも効果がわからないので • また、具体的なシステム化とかも考える必要がある • 今後の発表で個別の詳しい事例や研究内容が発表されるかと思いま すので乞うご期待 14