Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
RAGもファインチューニングも使わない 素朴なAIチャットボットを職場に導入した結果
Search
iwamot
September 11, 2024
Technology
0
71
RAGもファインチューニングも使わない 素朴なAIチャットボットを職場に導入した結果
2024-09-11
今さら聞けない! オフィス・開発でのAI活用
https://urahara-agile.connpass.com/event/328607/
iwamot
September 11, 2024
Tweet
Share
More Decks by iwamot
See All by iwamot
DockerのマルチプラットフォームイメージをGitHub Actionsでビルドして公開する際に、参考にしたドキュメントと便利だったツール
iwamot
3
130
Amazon CloudWatchでSLOを監視してみた CODT 2024 クロージングイベント版
iwamot
0
68
Cost-Effective SLO Error Budget Monitoring with Athena and CloudWatch
iwamot
0
820
Amazon CloudWatchでSLOを監視してみた
iwamot
0
43
AWS Protonの概要
iwamot
0
110
ENECHANGEが実現した管理者の工数負担を削減しながらもAWSセキュリティを強化した方法とは
iwamot
0
140
Web APIのAWS Lambda移行で工夫したこと
iwamot
4
3.2k
ECS on FargateへのSeekable OCI導入レポート
iwamot
0
510
サービスクォータ、ちゃんと監視してますか?
iwamot
0
1.1k
Other Decks in Technology
See All in Technology
XP matsuri 2024 - 銀河英雄伝説に学ぶ
kawaguti
PRO
3
550
Assisted reorganization of data structures
ennael
PRO
0
250
山手線一周のパフォーマンス改善
suzukahr
0
150
Product Utilization of Large Language Models Starting Today
ymatsuwitter
3
1.3k
Perlで始めるeBPF: 自作Loaderの作り方 / Getting started with eBPF in Perl_How to create your own Loader
takehaya
1
800
【shownet.conf_】ShowNet伝送改めShowNet APN 2024
shownet
PRO
0
420
kube-vipとkube-proxy置き換えCiliumを積んだ究極のK3sクラスタを建てる
logica0419
4
210
入門 バックアップ
ryuichi1208
18
6.5k
LeSSはスクラムではない!?LeSSにおけるスクラムマスターの振る舞い方とは / Scrum Master Behavior in LeSS
toma_sm
0
170
業務ヒアリングと知識の呪い
tamai_63
0
250
【shownet.conf_】AI技術とUX監視の応用でShowNetの基盤を支えるモニタリングシステム
shownet
PRO
0
350
AWS Lambdaで実現するスケーラブルで低コストなWebサービス構築/YAPC::Hakodate2024
fujiwara3
7
3k
Featured
See All Featured
Large-scale JavaScript Application Architecture
addyosmani
509
110k
Fantastic passwords and where to find them - at NoRuKo
philnash
50
2.8k
Practical Orchestrator
shlominoach
186
10k
Faster Mobile Websites
deanohume
304
30k
Producing Creativity
orderedlist
PRO
341
39k
What's new in Ruby 2.0
geeforr
341
31k
Navigating Team Friction
lara
183
14k
Optimizing for Happiness
mojombo
375
69k
What’s in a name? Adding method to the madness
productmarketing
PRO
22
3.1k
ReactJS: Keep Simple. Everything can be a component!
pedronauck
663
120k
Making Projects Easy
brettharned
115
5.8k
Typedesign – Prime Four
hannesfritz
39
2.3k
Transcript
RAGもファインチューニングも使わない 素朴なAIチャットボットを職場に導入した結果 2024-09-11 今さら聞けない! オフィス・開発でのAI活用 https://urahara-agile.connpass.com/event/328607/ ENECHANGE株式会社 VPoT兼CTO室マネージャー 岩本隆史 (@iwamot)
岩本 隆史 / Takashi Iwamoto ENECHANGE株式会社 VPoT兼CTO室マネージャー AWS Community Builder
(Cloud Operations, 2024-) 社内外を問わず開発者体験の向上に取り組んでいます https://x.com/iwamot
2023年4月、GPT-4の全従業員への導入を表明 AIのフル活用による全業務ラインに対する大幅な業務効率化が見込まれており、 「GitHub Copilot」の全エンジニアへの導入及び、「ChatGPT Plus」の全従業員 への導入を行いまずは当社全業務における30%の自動化を目指します。 https://enechange.co.jp/news/press/gpt4/ 3/22
Slackでも、LLMとチャットできたら便利かも 4/22
2023年5月、素朴なAI Slackbotを導入 5/22
素のGPT-4、RAG(検索拡張生成)も未対応 6/22
どうなったか 7/22
5か月で業務効率が平均44%改善(実感ベース) 利用者の実感として、利用している業務の効率は平均44%改善 (中略) 当社のChatGPTBotではGPT-4を中心に利用しており、現在は全社的に ChatGPTBotの利用に移行しています。希望者は引き続きChatGPT Plusを活用し ています。 https://enechange.co.jp/news/press/survey231006/ 8/22
1年3か月で利用者2.4倍、会話3.4倍 9/22
職種によらず、もはや欠かせない存在に 10/22
なぜ活躍できているのか 11/22
最新モデルを早めに提供 → 自然に高性能化・高速化 発表日 社内提供日 モデル エイリアス 2023-03-14 2023-05-09 gpt-4-0314
gpt-4 2023-06-13 2023-06-14 gpt-4-0613 gpt-4 2023-11-06 2023-11-07 gpt-4-1106-preview gpt-4-turbo-preview 2024-01-25 2024-01-26 gpt-4-0125-preview gpt-4-turbo-preview 2024-04-09 2024-04-11 gpt-4-turbo-2024-04-09 gpt-4-turbo 2024-05-13 2024-05-14 gpt-4o-2024-05-13 gpt-4o 2024-08-06 2024-08-19 gpt-4o-2024-08-06 gpt-4o 12/22
つまり、モデルの切り替えやすさが重要 13/22
OSSのChatGPT-in-Slackなら、環境変数の変更のみ # Optional: gpt-3.5-turbo and newer ones are currently supported
(default: gpt-3.5-turbo) export OPENAI_MODEL=gpt-4o https://github.com/seratch/ChatGPT-in-Slack 14/22
ただ、2024年6月… 15/22
GPT-4o超えのClaude 3.5 Sonnetが登場 https://www.anthropic.com/news/claude-3-5-sonnet 16/22
ChatGPT-in-SlackはGPTモデルのみ対応 GPT_4_MODEL = "gpt-4" GPT_4_0314_MODEL = "gpt-4-0314" GPT_4_0613_MODEL = "gpt-4-0613"
GPT_4_1106_PREVIEW_MODEL = "gpt-4-1106-preview" GPT_4_0125_PREVIEW_MODEL = "gpt-4-0125-preview" GPT_4_TURBO_PREVIEW_MODEL = "gpt-4-turbo-preview" GPT_4_TURBO_MODEL = "gpt-4-turbo" GPT_4_TURBO_2024_04_09_MODEL = "gpt-4-turbo-2024-04-09" GPT_4_32K_MODEL = "gpt-4-32k" GPT_4_32K_0314_MODEL = "gpt-4-32k-0314" GPT_4_32K_0613_MODEL = "gpt-4-32k-0613" GPT_4O_MODEL = "gpt-4o" GPT_4O_2024_05_13_MODEL = "gpt-4o-2024-05-13" GPT_4O_MINI_MODEL = "gpt-4o-mini" GPT_4O_MINI_2024_07_18_MODEL = "gpt-4o-mini-2024-07-18" https://github.com/seratch/ChatGPT-in-Slack/blob/main/app/openai_constants.py 17/22
どうしようか 18/22
ChatGPT-in-Slackをfork、Collmboを開発 https://tech.enechange.co.jp/entry/2024/06/10/193344 19/22
Collmboを使って、SonnetのSlackbotも導入 20/22
AI Slackbot未導入なら、ぜひCollmboで第一歩を https://github.com/iwamot/collmbo 21/22
まとめ 2023年5月、素朴なAI Slackbotを導入 5か月で業務効率が平均44%改善(実感ベース) 1年3か月で利用者2.4倍、会話3.4倍 職種によらず、もはや欠かせない存在に 最新モデルを早めに提供 → 自然に高性能化・高速化 つまり、モデルの切り替えやすさが重要
AI Slackbot未導入なら、ぜひCollmboで第一歩を 22/22