Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
2年でここまで成長!AWSで育てたAI Slack botの軌跡
Search
iwamot
PRO
June 25, 2025
Technology
4
940
2年でここまで成長!AWSで育てたAI Slack botの軌跡
2025-06-25
AWS Summit Japan 2025
iwamot
PRO
June 25, 2025
Tweet
Share
More Decks by iwamot
See All by iwamot
IPA&AWSダブル全冠が明かす、人生を変えた勉強法のすべて
iwamot
PRO
2
230
名単体テスト 禁断の傀儡(モック)
iwamot
PRO
1
470
クォータ監視、AWS Organizations環境でも楽勝です✌️
iwamot
PRO
2
470
Cline、めっちゃ便利、お金が飛ぶ💸
iwamot
PRO
22
21k
開発組織を進化させる!AWSで実践するチームトポロジー
iwamot
PRO
3
1.2k
始めないともったいない!SLO運用で得られる3つのメリット
iwamot
PRO
1
150
あなたの人生も変わるかも?AWS認定2つで始まったウソみたいな話
iwamot
PRO
3
8k
効率的な技術組織が作れる!書籍『チームトポロジー』要点まとめ
iwamot
PRO
2
370
AWS⼊社という選択肢、⾒えていますか
iwamot
PRO
2
1.4k
Other Decks in Technology
See All in Technology
無理しない AI 活用サービス / #jazug
koudaiii
0
100
[SRE NEXT 2025] すみずみまで暖かく照らすあなたの太陽でありたい
carnappopper
2
470
OpenTelemetryセマンティック規約の恩恵とMackerel APMにおける活用例 / SRE NEXT 2025
mackerelio
3
2k
SRE不在の開発チームが障害対応と 向き合った100日間 / 100 days dealing with issues without SREs
shin1988
2
2.1k
AWS CDK 入門ガイド これだけは知っておきたいヒント集
anank
5
760
ソフトウェアテストのAI活用_ver1.25
fumisuke
1
620
Introduction to Sansan, inc / Sansan Global Development Center, Inc.
sansan33
PRO
0
2.7k
QuickSight SPICE の効果的な運用戦略~S3 + Athena 構成での実践ノウハウ~/quicksight-spice-s3-athena-best-practices
emiki
0
290
Amplify Gen2から知るAWS CDK Toolkit Libraryの使い方/How to use the AWS CDK Toolkit Library as known from Amplify Gen2
fossamagna
1
350
Figma Dev Mode MCP Serverを用いたUI開発
zoothezoo
0
230
20250708オープンエンドな探索と知識発見
sakana_ai
PRO
4
1k
モニタリング統一への道のり - 分散モニタリングツール統合のためのオブザーバビリティプロジェクト
niftycorp
PRO
1
520
Featured
See All Featured
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
32
2.4k
Into the Great Unknown - MozCon
thekraken
40
1.9k
Improving Core Web Vitals using Speculation Rules API
sergeychernyshev
18
990
Agile that works and the tools we love
rasmusluckow
329
21k
Making the Leap to Tech Lead
cromwellryan
134
9.4k
Build your cross-platform service in a week with App Engine
jlugia
231
18k
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
53
2.9k
How STYLIGHT went responsive
nonsquared
100
5.6k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
507
140k
RailsConf 2023
tenderlove
30
1.1k
Gamification - CAS2011
davidbonilla
81
5.4k
Faster Mobile Websites
deanohume
308
31k
Transcript
2年でここまで成長! AWSで育てたAI Slack botの軌跡 2025-06-25 AWS Summit Japan 2025 AWS
Community Builder 岩本隆史
自己紹介 岩本 隆史 (@iwamot) AWS Community Builder (Cloud Operations) ENECHANGE株式会社
VPoT
社内AI Slack bot、AWSでどう育てた? 2023/5 - 試験運用を開始 ~ 2025/6 - MCPを導入
2023/5 - 試験運用を開始 2023/3 - OpenAIがChatGPT APIを公開 2023/4 - 他社のAI
Slack bot事例が社内で話題に
ChatGPT-in-Slackを選択 https://github.com/seratch/ChatGPT-in-Slack GPTモデルと簡単に会話できるSlack bot 当時Slack、現OpenAIの瀬良さんが開発
Amazon EC2でシンプルに起動 export SLACK_APP_TOKEN=xapp-1-... export SLACK_BOT_TOKEN=xoxb-... export OPENAI_API_KEY=sk-... python -m
venv .venv source .venv/bin/activate pip install -r requirements.txt python main.py インターネットに接続できれば、どこでも動く
2023/6 - 本格運用を開始
Amazon ECS/AWS Fargateに移行 運用負荷を下げる意図 Amazon API Gateway/AWS Lambdaも試したが、当時は厳しかった GPTの回答が遅く、タイムアウトが頻発
Terraformモジュールを整備 chatgpt-in-slack - デプロイや実行に必要なリソース chatgpt-in-slack-shutdown-at-night - 夜間停止処理に必要なリソース Application Auto ScalingでECSタスクを0に(毎日22時)
3つのbotを構築 gpt-4 gpt-3.5-turbo - gpt-4がレートリミットに達したら使う想定(後日削除) ステージング - 日中の開発に利用。夜間は停止
ログは2箇所に保存 Amazon S3 - 将来的な集計処理を想定 詳細非公開のストレージ - 情報漏洩など事故発生時の調査用 限られた社員のみアクセス可能
2023/7 - KPIの可視化を開始 ユーザーごとの会話数の例 2023/6 - 経営層から「導入効果を可視化したい」との声
Amazon Athenaでログを集計 KPI = アクティブユーザー数、会話数 AWS Glueでテーブルを作成(パーティション射影で処理を高速化) 結果は毎月Slackで共有。数分で終わるので手動でOK
2023/8 - function callingを導入 2023/6 - OpenAIがfunction callingを発表
ChatGPT-in-Slackにpull requestを作成 → マージ https://github.com/seratch/ChatGPT-in-Slack/pull/52
関数ファイルを作成 → S3に保存 画像生成、QRコード生成、音声読み上げ 音声読み上げには、Amazon Pollyを利用 appイメージに追加(ビルド時にS3からダウンロード)
2024/6 - Claudeの利用を開始 2023/9 - Amazon Bedrockが一般公開 2024/3 - AnthropicがClaude
3 Sonnetを公開。Bedrockでも利用可能に 2024/6 - Claude 3.5 Sonnet公開。Bedrockでも利用可能に
ChatGPT-in-SlackはGPTのみ対応 瀬良さんに、GPT以外のモデルへの対応予定を問い合わせ 「対応予定はない」との回答
forkして、LiteLLMを組み込み https://github.com/BerriAI/litellm GPTと同じI/Fで、100以上のLLMが使える(もちろんClaudeも) OpenAIライブラリに依存している箇所を置き換え
Collmbo(コロンボ)と名づけて公開 https://github.com/iwamot/collmbo 「co-working LLM bot」(ともに働くLLM bot)
Bedrock/Claude 3.5 Sonnetの利用を開始 モデル名に bedrock/anthropic.claude-3-5-sonnet-20240620-v1:0 を指定 前月公開の gpt-4o と合わせ、2つのbotが使える状態に
2025/6 - MCPを導入 2024/11 - AnthropicがMCP (Model Context Protocol) を公開
2025/5 - AWSがStrands Agentsを公開 (https://strandsagents.com/)
Strands AgentsをCollmboに組み込み AWS社内でも使われている、オープンソースのAIエージェントSDK list_tools_sync() や call_tool_sync() を含む Collmboを非同期 (async) 化することなく、簡単に組み込めた
MCPサーバー用のコンテナをECSタスクに追加 mcp-proxyを立てて「stdio → Streamable HTTP」変換 https://github.com/sparfenyuk/mcp-proxy 今後、Streamable HTTPが主流になりそうと予想
3つのMCPサーバーを設定 Fetch MCP Server - 外部サイト参照 https://github.com/modelcontextprotocol/servers/tree/main/src/fetch AWS Documentation MCP
Server - AWSドキュメント参照 https://awslabs.github.io/mcp/servers/aws-documentation-mcp-server/ Terraform MCP Server - Terraformドキュメント参照 https://github.com/hashicorp/terraform-mcp-server
Amazon GuardDutyによる監視 外部サイト参照を許可 → 不審なアクティビティを検出したい ランタイムモニタリングを有効化 ECSクラスターに GuardDutyManaged = true
タグを設定
KPIも着実に成長 (2023/6 → 2025/5) アクティブユーザー数 - 1.6倍 会話数 - 2.8倍
がんばってよかった
軌跡はまだまだ続く MCPサーバーの追加(認証にも対応) モデルのフォールバック(1つのbot内で) ...
️ 最後に、あらためて思ったこと
AWS大好き ビルディングブロックが豊富で、ワークロードを育てやすい 便利なOSSにも感謝 AWS Summit、全力で楽しみましょう!