Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
2年でここまで成長!AWSで育てたAI Slack botの軌跡
Search
iwamot
PRO
June 25, 2025
Technology
4
990
2年でここまで成長!AWSで育てたAI Slack botの軌跡
2025-06-25
AWS Summit Japan 2025
iwamot
PRO
June 25, 2025
Tweet
Share
More Decks by iwamot
See All by iwamot
復号できなくなると怖いので、AWS KMSキーの削除を「面倒」にしてみた
iwamot
PRO
3
49
IPA&AWSダブル全冠が明かす、人生を変えた勉強法のすべて
iwamot
PRO
13
8.7k
名単体テスト 禁断の傀儡(モック)
iwamot
PRO
1
490
クォータ監視、AWS Organizations環境でも楽勝です✌️
iwamot
PRO
2
490
Cline、めっちゃ便利、お金が飛ぶ💸
iwamot
PRO
22
21k
開発組織を進化させる!AWSで実践するチームトポロジー
iwamot
PRO
3
1.3k
始めないともったいない!SLO運用で得られる3つのメリット
iwamot
PRO
1
150
あなたの人生も変わるかも?AWS認定2つで始まったウソみたいな話
iwamot
PRO
3
8.1k
効率的な技術組織が作れる!書籍『チームトポロジー』要点まとめ
iwamot
PRO
2
390
Other Decks in Technology
See All in Technology
製造業の課題解決に向けた機械学習の活用と、製造業特化LLM開発への挑戦
knt44kw
0
150
Unson OS|48時間で「売れるか」を判定する AI 市場検証プラットフォーム
unson
0
170
Kiroから考える AIコーディングツールの潮流
s4yuba
4
660
AI コードレビューが面倒すぎるのでテスト駆動開発で解決しようとして読んだら、根本的に俺の勘違いだった
mutsumix
0
160
ロールが細分化された組織でSREと協働するインフラエンジニアは何をするか? / SRE Lounge #18
kossykinto
0
140
JAWS AI/ML #30 AI コーディング IDE "Kiro" を触ってみよう
inariku
3
270
Segment Anything Modelの最新動向:SAM2とその発展系
tenten0727
0
320
みんなのSRE 〜チーム全員でのSRE活動にするための4つの取り組み〜
kakehashi
PRO
2
140
恐怖!テストコードなき夜
tsukuboshi
2
110
ホリスティックテスティングの右側も大切にする 〜2つの[はか]る〜 / Holistic Testing: Right Side Matters
nihonbuson
PRO
0
570
LIFF CLIとngrokを使ったLIFF/LINEミニアプリのお手軽実機確認
diggymo
0
230
LLMで構造化出力の成功率をグンと上げる方法
keisuketakiguchi
0
340
Featured
See All Featured
Helping Users Find Their Own Way: Creating Modern Search Experiences
danielanewman
29
2.8k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
130
19k
Agile that works and the tools we love
rasmusluckow
329
21k
The Invisible Side of Design
smashingmag
301
51k
Six Lessons from altMBA
skipperchong
28
3.9k
Automating Front-end Workflow
addyosmani
1370
200k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
29
9.6k
Designing Experiences People Love
moore
142
24k
Statistics for Hackers
jakevdp
799
220k
Code Reviewing Like a Champion
maltzj
524
40k
Side Projects
sachag
455
43k
Keith and Marios Guide to Fast Websites
keithpitt
411
22k
Transcript
2年でここまで成長! AWSで育てたAI Slack botの軌跡 2025-06-25 AWS Summit Japan 2025 AWS
Community Builder 岩本隆史
自己紹介 岩本 隆史 (@iwamot) AWS Community Builder (Cloud Operations) ENECHANGE株式会社
VPoT
社内AI Slack bot、AWSでどう育てた? 2023/5 - 試験運用を開始 ~ 2025/6 - MCPを導入
2023/5 - 試験運用を開始 2023/3 - OpenAIがChatGPT APIを公開 2023/4 - 他社のAI
Slack bot事例が社内で話題に
ChatGPT-in-Slackを選択 https://github.com/seratch/ChatGPT-in-Slack GPTモデルと簡単に会話できるSlack bot 当時Slack、現OpenAIの瀬良さんが開発
Amazon EC2でシンプルに起動 export SLACK_APP_TOKEN=xapp-1-... export SLACK_BOT_TOKEN=xoxb-... export OPENAI_API_KEY=sk-... python -m
venv .venv source .venv/bin/activate pip install -r requirements.txt python main.py インターネットに接続できれば、どこでも動く
2023/6 - 本格運用を開始
Amazon ECS/AWS Fargateに移行 運用負荷を下げる意図 Amazon API Gateway/AWS Lambdaも試したが、当時は厳しかった GPTの回答が遅く、タイムアウトが頻発
Terraformモジュールを整備 chatgpt-in-slack - デプロイや実行に必要なリソース chatgpt-in-slack-shutdown-at-night - 夜間停止処理に必要なリソース Application Auto ScalingでECSタスクを0に(毎日22時)
3つのbotを構築 gpt-4 gpt-3.5-turbo - gpt-4がレートリミットに達したら使う想定(後日削除) ステージング - 日中の開発に利用。夜間は停止
ログは2箇所に保存 Amazon S3 - 将来的な集計処理を想定 詳細非公開のストレージ - 情報漏洩など事故発生時の調査用 限られた社員のみアクセス可能
2023/7 - KPIの可視化を開始 ユーザーごとの会話数の例 2023/6 - 経営層から「導入効果を可視化したい」との声
Amazon Athenaでログを集計 KPI = アクティブユーザー数、会話数 AWS Glueでテーブルを作成(パーティション射影で処理を高速化) 結果は毎月Slackで共有。数分で終わるので手動でOK
2023/8 - function callingを導入 2023/6 - OpenAIがfunction callingを発表
ChatGPT-in-Slackにpull requestを作成 → マージ https://github.com/seratch/ChatGPT-in-Slack/pull/52
関数ファイルを作成 → S3に保存 画像生成、QRコード生成、音声読み上げ 音声読み上げには、Amazon Pollyを利用 appイメージに追加(ビルド時にS3からダウンロード)
2024/6 - Claudeの利用を開始 2023/9 - Amazon Bedrockが一般公開 2024/3 - AnthropicがClaude
3 Sonnetを公開。Bedrockでも利用可能に 2024/6 - Claude 3.5 Sonnet公開。Bedrockでも利用可能に
ChatGPT-in-SlackはGPTのみ対応 瀬良さんに、GPT以外のモデルへの対応予定を問い合わせ 「対応予定はない」との回答
forkして、LiteLLMを組み込み https://github.com/BerriAI/litellm GPTと同じI/Fで、100以上のLLMが使える(もちろんClaudeも) OpenAIライブラリに依存している箇所を置き換え
Collmbo(コロンボ)と名づけて公開 https://github.com/iwamot/collmbo 「co-working LLM bot」(ともに働くLLM bot)
Bedrock/Claude 3.5 Sonnetの利用を開始 モデル名に bedrock/anthropic.claude-3-5-sonnet-20240620-v1:0 を指定 前月公開の gpt-4o と合わせ、2つのbotが使える状態に
2025/6 - MCPを導入 2024/11 - AnthropicがMCP (Model Context Protocol) を公開
2025/5 - AWSがStrands Agentsを公開 (https://strandsagents.com/)
Strands AgentsをCollmboに組み込み AWS社内でも使われている、オープンソースのAIエージェントSDK list_tools_sync() や call_tool_sync() を含む Collmboを非同期 (async) 化することなく、簡単に組み込めた
MCPサーバー用のコンテナをECSタスクに追加 mcp-proxyを立てて「stdio → Streamable HTTP」変換 https://github.com/sparfenyuk/mcp-proxy 今後、Streamable HTTPが主流になりそうと予想
3つのMCPサーバーを設定 Fetch MCP Server - 外部サイト参照 https://github.com/modelcontextprotocol/servers/tree/main/src/fetch AWS Documentation MCP
Server - AWSドキュメント参照 https://awslabs.github.io/mcp/servers/aws-documentation-mcp-server/ Terraform MCP Server - Terraformドキュメント参照 https://github.com/hashicorp/terraform-mcp-server
Amazon GuardDutyによる監視 外部サイト参照を許可 → 不審なアクティビティを検出したい ランタイムモニタリングを有効化 ECSクラスターに GuardDutyManaged = true
タグを設定
KPIも着実に成長 (2023/6 → 2025/5) アクティブユーザー数 - 1.6倍 会話数 - 2.8倍
がんばってよかった
軌跡はまだまだ続く MCPサーバーの追加(認証にも対応) モデルのフォールバック(1つのbot内で) ...
️ 最後に、あらためて思ったこと
AWS大好き ビルディングブロックが豊富で、ワークロードを育てやすい 便利なOSSにも感謝 AWS Summit、全力で楽しみましょう!