20241121_[TechTalk#2]虎の穴ラボでのLLMについて取り組み紹介

Slide 1

Slide 1 text

Slide 2

Slide 2 text

Slide 3

Slide 3 text

Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 自己紹介ページ (藤原) 藤原佳顕（ふじわらよしあき） : yoshiaki fujiwara ‣ Webエンジニア ‣ 新規事業担当（Fantia、Creatia）、アーキテクトチーム (CSIRTも) ‣ 前職：独立系ソフトウェア会社、主に GISとWeb、ライブラリ開発 ‣ TypeScript、Ruby on Rails、C#、C++ ‣ React、Vue、Angular ‣ 入社理由 ‣ 自分がスキルアップできそうな場所に行きたい ‣ オタク系の話ができるところに行きたい好きなモノ ‣ シューティングゲーム、格闘ゲーム、アトラスのゲーム ‣ SF小説 ‣ プログラミング 3

Slide 4

Slide 4 text

Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 概要 ● 虎の穴ラボではLLMの活用について積極的に取り組んでいます ● 今回の発表では具体的に現在どのような形でLLMを活用しているか紹介します ● 主に活用のために構築された社内システム、利用している外部サービス、どの様に活用を推進しているかなどについて話します ● 今回の発表は主に概要になります。より詳細は今後の発表等にご期待ください 4

Slide 5

Slide 5 text

Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介 ● 虎の穴ラボで利用中のLLM関連システムについては以下ブログに記事があります ○ 虎の穴ラボに「OpenAI API」と「GitHub Copilot」を正式導入し、「ChatGPT Plus」を技術支援制度の対象としました ■ https://toranoana-lab.hatenablog.com/entry/2023/04/14/1 20000 ○ 虎の穴ラボではGitHub Copilot for Businessを導入しています！ ■ https://toranoana-lab.hatenablog.com/entry/2023/11/08/1 00000 5

Slide 6

Slide 6 text

Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介 ● 社内LLM活用のための要素技術 ○ OpenAI API ■ 社内専用アプリのAI基盤としてはOpenAIを利用中 ○ Python＋Django ■ 上記APIを組み合わせてアプリにするために利用 ○ LangChain ■ RAGなどの構築等に利用 ○ React/Next.js ■ Chat系ツールのUI構築に利用 6

Slide 7

Slide 7 text

Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. 虎の穴ラボ社内でのLLM活用と技術紹介 ● LLM活用のための社内制度 ○ 個人で利用するAI関連の費用補助 ■ Copilot、OpenAI API、ChatGPT Plus ■ 既存の福利厚生である書籍補助の延長線上 ○ GitHub Copilot for Business ■ 通常のプロダクト開発に利用 ■ オプションのON/OFFなどを一括管理するために会社で導入 ○ 先述した技術を利用した社内チャットアプリ ■ OSSのUIを利用した通常のチャットアプリ ■ 社内ドキュメントを元に回答を作成できるチャットアプリ ○ 一部の社員のみChatGPT Teamを利用 ■ こちらは現状お試し段階で一定レイヤ以上で利用中 7

Slide 8

Slide 8 text

Slide 9

Slide 9 text

Slide 10

Slide 10 text

Slide 11

Slide 11 text

Slide 12

Slide 12 text

Slide 13

Slide 13 text

Slide 14

Slide 14 text

Copyright (C) 2024 Toranoana Lab Inc. All Rights Reserved. まとめ ● 虎の穴ラボが取り組んでいるLLM関連の事例について紹介しました ● また、どの様に活用しているかや、利用技術についても紹介しました ● 今後の課題としてはもっと可視化を進める必要がある ○ システム組み込んでも効果がわからないので ● また、具体的なシステム化とかも考える必要がある ● 今後の発表で個別の詳しい事例や研究内容が発表されるかと思いますので乞うご期待 14