Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
2年でここまで成長!AWSで育てたAI Slack botの軌跡
Search
iwamot
PRO
June 25, 2025
Technology
4
890
2年でここまで成長!AWSで育てたAI Slack botの軌跡
2025-06-25
AWS Summit Japan 2025
iwamot
PRO
June 25, 2025
Tweet
Share
More Decks by iwamot
See All by iwamot
名単体テスト 禁断の傀儡(モック)
iwamot
PRO
1
460
クォータ監視、AWS Organizations環境でも楽勝です✌️
iwamot
PRO
2
470
Cline、めっちゃ便利、お金が飛ぶ💸
iwamot
PRO
22
21k
開発組織を進化させる!AWSで実践するチームトポロジー
iwamot
PRO
3
1.2k
始めないともったいない!SLO運用で得られる3つのメリット
iwamot
PRO
1
140
あなたの人生も変わるかも?AWS認定2つで始まったウソみたいな話
iwamot
PRO
3
8k
効率的な技術組織が作れる!書籍『チームトポロジー』要点まとめ
iwamot
PRO
2
370
AWS⼊社という選択肢、⾒えていますか
iwamot
PRO
2
1.4k
40代後半で開発エンジニアからクラウドインフラエンジニアにキャリアチェンジし、生き残れる自信がようやく持てた話
iwamot
PRO
9
9.4k
Other Decks in Technology
See All in Technology
Connect 100+を支える技術
kanyamaguc
0
200
「クラウドコスト絶対削減」を支える技術—FinOpsを超えた徹底的なクラウドコスト削減の実践論
delta_tech
4
150
AIとともに進化するエンジニアリング / Engineering-Evolving-with-AI_final.pdf
lycorptech_jp
PRO
0
160
いつの間にか入れ替わってる!?新しいAWS Security Hubとは?
cmusudakeisuke
0
110
CDKTFについてざっくり理解する!!~CloudFormationからCDKTFへ変換するツールも作ってみた~
masakiokuda
1
110
LangChain Interrupt & LangChain Ambassadors meetingレポート
os1ma
2
300
【5分でわかる】セーフィー エンジニア向け会社紹介
safie_recruit
0
27k
United Airlines Customer Service– Call 1-833-341-3142 Now!
airhelp
0
160
Tech-Verse 2025 Global CTO Session
lycorptech_jp
PRO
0
1.7k
面倒な作業はAIにおまかせ。Flutter開発をスマートに効率化
ruideengineer
0
240
KubeCon + CloudNativeCon Japan 2025 Recap by CA
ponkio_o
PRO
0
300
AI時代の開発生産性を加速させるアーキテクチャ設計
plaidtech
PRO
3
140
Featured
See All Featured
Making Projects Easy
brettharned
116
6.3k
4 Signs Your Business is Dying
shpigford
184
22k
Building Flexible Design Systems
yeseniaperezcruz
328
39k
A designer walks into a library…
pauljervisheath
207
24k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
507
140k
Reflections from 52 weeks, 52 projects
jeffersonlam
351
20k
We Have a Design System, Now What?
morganepeng
53
7.7k
The Invisible Side of Design
smashingmag
301
51k
A Tale of Four Properties
chriscoyier
160
23k
Code Review Best Practice
trishagee
69
18k
Improving Core Web Vitals using Speculation Rules API
sergeychernyshev
18
970
Building Applications with DynamoDB
mza
95
6.5k
Transcript
2年でここまで成長! AWSで育てたAI Slack botの軌跡 2025-06-25 AWS Summit Japan 2025 AWS
Community Builder 岩本隆史
自己紹介 岩本 隆史 (@iwamot) AWS Community Builder (Cloud Operations) ENECHANGE株式会社
VPoT
社内AI Slack bot、AWSでどう育てた? 2023/5 - 試験運用を開始 ~ 2025/6 - MCPを導入
2023/5 - 試験運用を開始 2023/3 - OpenAIがChatGPT APIを公開 2023/4 - 他社のAI
Slack bot事例が社内で話題に
ChatGPT-in-Slackを選択 https://github.com/seratch/ChatGPT-in-Slack GPTモデルと簡単に会話できるSlack bot 当時Slack、現OpenAIの瀬良さんが開発
Amazon EC2でシンプルに起動 export SLACK_APP_TOKEN=xapp-1-... export SLACK_BOT_TOKEN=xoxb-... export OPENAI_API_KEY=sk-... python -m
venv .venv source .venv/bin/activate pip install -r requirements.txt python main.py インターネットに接続できれば、どこでも動く
2023/6 - 本格運用を開始
Amazon ECS/AWS Fargateに移行 運用負荷を下げる意図 Amazon API Gateway/AWS Lambdaも試したが、当時は厳しかった GPTの回答が遅く、タイムアウトが頻発
Terraformモジュールを整備 chatgpt-in-slack - デプロイや実行に必要なリソース chatgpt-in-slack-shutdown-at-night - 夜間停止処理に必要なリソース Application Auto ScalingでECSタスクを0に(毎日22時)
3つのbotを構築 gpt-4 gpt-3.5-turbo - gpt-4がレートリミットに達したら使う想定(後日削除) ステージング - 日中の開発に利用。夜間は停止
ログは2箇所に保存 Amazon S3 - 将来的な集計処理を想定 詳細非公開のストレージ - 情報漏洩など事故発生時の調査用 限られた社員のみアクセス可能
2023/7 - KPIの可視化を開始 ユーザーごとの会話数の例 2023/6 - 経営層から「導入効果を可視化したい」との声
Amazon Athenaでログを集計 KPI = アクティブユーザー数、会話数 AWS Glueでテーブルを作成(パーティション射影で処理を高速化) 結果は毎月Slackで共有。数分で終わるので手動でOK
2023/8 - function callingを導入 2023/6 - OpenAIがfunction callingを発表
ChatGPT-in-Slackにpull requestを作成 → マージ https://github.com/seratch/ChatGPT-in-Slack/pull/52
関数ファイルを作成 → S3に保存 画像生成、QRコード生成、音声読み上げ 音声読み上げには、Amazon Pollyを利用 appイメージに追加(ビルド時にS3からダウンロード)
2024/6 - Claudeの利用を開始 2023/9 - Amazon Bedrockが一般公開 2024/3 - AnthropicがClaude
3 Sonnetを公開。Bedrockでも利用可能に 2024/6 - Claude 3.5 Sonnet公開。Bedrockでも利用可能に
ChatGPT-in-SlackはGPTのみ対応 瀬良さんに、GPT以外のモデルへの対応予定を問い合わせ 「対応予定はない」との回答
forkして、LiteLLMを組み込み https://github.com/BerriAI/litellm GPTと同じI/Fで、100以上のLLMが使える(もちろんClaudeも) OpenAIライブラリに依存している箇所を置き換え
Collmbo(コロンボ)と名づけて公開 https://github.com/iwamot/collmbo 「co-working LLM bot」(ともに働くLLM bot)
Bedrock/Claude 3.5 Sonnetの利用を開始 モデル名に bedrock/anthropic.claude-3-5-sonnet-20240620-v1:0 を指定 前月公開の gpt-4o と合わせ、2つのbotが使える状態に
2025/6 - MCPを導入 2024/11 - AnthropicがMCP (Model Context Protocol) を公開
2025/5 - AWSがStrands Agentsを公開 (https://strandsagents.com/)
Strands AgentsをCollmboに組み込み AWS社内でも使われている、オープンソースのAIエージェントSDK list_tools_sync() や call_tool_sync() を含む Collmboを非同期 (async) 化することなく、簡単に組み込めた
MCPサーバー用のコンテナをECSタスクに追加 mcp-proxyを立てて「stdio → Streamable HTTP」変換 https://github.com/sparfenyuk/mcp-proxy 今後、Streamable HTTPが主流になりそうと予想
3つのMCPサーバーを設定 Fetch MCP Server - 外部サイト参照 https://github.com/modelcontextprotocol/servers/tree/main/src/fetch AWS Documentation MCP
Server - AWSドキュメント参照 https://awslabs.github.io/mcp/servers/aws-documentation-mcp-server/ Terraform MCP Server - Terraformドキュメント参照 https://github.com/hashicorp/terraform-mcp-server
Amazon GuardDutyによる監視 外部サイト参照を許可 → 不審なアクティビティを検出したい ランタイムモニタリングを有効化 ECSクラスターに GuardDutyManaged = true
タグを設定
KPIも着実に成長 (2023/6 → 2025/5) アクティブユーザー数 - 1.6倍 会話数 - 2.8倍
がんばってよかった
軌跡はまだまだ続く MCPサーバーの追加(認証にも対応) モデルのフォールバック(1つのbot内で) ...
️ 最後に、あらためて思ったこと
AWS大好き ビルディングブロックが豊富で、ワークロードを育てやすい 便利なOSSにも感謝 AWS Summit、全力で楽しみましょう!