Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
20240321_生成AI時代のDevOps
Search
Kazuki Maeda
March 21, 2024
Technology
2
1.1k
20240321_生成AI時代のDevOps
https://studyco.connpass.com/event/311547/
の資料
Kazuki Maeda
March 21, 2024
Tweet
Share
More Decks by Kazuki Maeda
See All by Kazuki Maeda
現場の種を事業の芽にする - エンジニア主導のイノベーションを事業戦略に装着する方法 -
kzkmaeda
2
2.2k
生成AIを用いた 新しい学びの体験を 提供するまでの道のり
kzkmaeda
0
200
生成AIによって変わる世界 -可能性とリスクについて考える-
kzkmaeda
2
230
新しいことを組織ではじめる、そしてつづける
kzkmaeda
5
860
20240824_JAWS_PANKRATION_2024
kzkmaeda
0
72
20240416_devopsdaystokyo
kzkmaeda
1
440
20240222_LangChain_ver0.1.0_LCEL
kzkmaeda
4
410
20240201_クラウド利用料を 半額にするために取り組んだ10+のコト
kzkmaeda
4
7.3k
20231027_Bedrock勉強会
kzkmaeda
3
1.3k
Other Decks in Technology
See All in Technology
リアルタイム分析データベースで実現する SQLベースのオブザーバビリティ
mikimatsumoto
0
1.5k
RSNA2024振り返り
nanachi
0
600
オブザーバビリティの観点でみるAWS / AWS from observability perspective
ymotongpoo
9
1.6k
次世代KYC活動報告 / 20250219-BizDay17-KYC-nextgen
oidfj
0
290
Tech Blogを書きやすい環境づくり
lycorptech_jp
PRO
1
250
Nekko Cloud、 これまでとこれから ~学生サークルが作る、 小さなクラウド
logica0419
2
1k
分解して理解する Aspire
nenonaninu
1
390
ESXi で仮想化した ARM 環境で LLM を動作させてみるぞ
unnowataru
0
110
TAMとre:Capセキュリティ編 〜拡張脅威検出デモを添えて〜
fujiihda
2
330
OpenID BizDay#17 KYC WG活動報告(法人) / 20250219-BizDay17-KYC-legalidentity
oidfj
0
280
ソフトウェアエンジニアと仕事するときに知っておいたほうが良いこと / Key points for working with software engineers
pinkumohikan
0
120
なぜ私は自分が使わないサービスを作るのか? / Why would I create a service that I would not use?
aiandrox
0
810
Featured
See All Featured
The World Runs on Bad Software
bkeepers
PRO
67
11k
[RailsConf 2023] Rails as a piece of cake
palkan
53
5.3k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
47
5.2k
Rails Girls Zürich Keynote
gr2m
94
13k
The Cost Of JavaScript in 2023
addyosmani
47
7.3k
No one is an island. Learnings from fostering a developers community.
thoeni
21
3.1k
Measuring & Analyzing Core Web Vitals
bluesmoon
6
240
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
100
18k
Product Roadmaps are Hard
iamctodd
PRO
50
11k
GraphQLとの向き合い方2022年版
quramy
44
13k
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
49
2.3k
Thoughts on Productivity
jonyablonski
69
4.5k
Transcript
生成AI時代のDevOps - monitoringとcollaborationの進化 - 2024/03/21 StudyCo LT大会 #6 @kzk_maeda
自己紹介 Kazuki Maeda 𝕏 @kzk_maeda SRE/DRE/EM @atama plus AWS Community
Builders AWS Startup Community Core Member
自己紹介
今日は活用のアイデアを 話します
Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題
Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題
DevOpsについて • DevOpsは文化であり、プラクティスである • よくこんな図で説明されることがある
DevOpsにおけるツール • DevOpsにおいて、プラクティスを加速するツールは多く提供されている ◦ バージョン管理ツール ◦ CI/CDツール ◦ Infrastructure as
Codeツール... • DevOpsにおいて、ツールとは文化を加速させるもの • 生成AIも文化を加速させるために活用されていく未来を 期待したい
Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題
Devを支援する生成AI • 生成AIの台頭により、開発者の体験は大きく変わった • 現状はDev領域での活用が中心 ◦ Github Copilot ◦ ChatGPT
Code/Test - Github Copilot etc • あああ
Code/Test - Github Copilot • 言わずと知れたAIコーディングアシスタント • エディタ上で有効にし、コードのサジェスト、テストコードの作成、チャット機能による コーディング支援などを享受できる •
類似のサービスに、Amazon CodeWhispererやDuet AI for Developersなど
Plan - ChatGPT etc • あああ
Plan - ChatGPT etc • 現在の生成AIブームの火付け役となった、OpenAI社提供のAIチャット • 言語モデルであるGPTを一般利用しやすいチャット形式のプロダクトで 提供することで、一世を風靡 •
計画の壁打ちやレビュー補助など、メンターやアシスタントとして活用するケースが多 い印象 • 類似のサービスに、Copilot(Bing)やGemini、Claudeなど
DORA State of DevOps Report 2023 • 一方、生成AIの活用による生産性の効果実感はまだ得られていない
Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題
生成AIでOpsを支援したい • 生成AIの特性を考えると、Ops領域でも活用はできるはず • 現状、クリティカルソリューションで 広まっているものはそこまでない?
Opsの辛さと 生成AI活用のアイデア
課題:割り込みによるコンテキストスイッチ • 割り込みによるコンテキストスイッチは生産性の著しい低下を招く https://note.com/navitime_tech/n/nf68540265371
課題:エラー発生時の割り込み • エラーを検知したらそこそこやることがある ◦ 通知確認 ◦ エラー内容調査 ◦ 過去の調査履歴確認 ◦
調査内容共有 ◦ ・・・
活用アイデア:モニタリング自動応答AI • RAGを応用した、自動モニタリング・Issue作成のシステム ◦ 以下をRAGで自動化 ▪ エラー検知 ▪ ログ調査 ▪
過去調査履歴確認 ▪ 調査内容共有
None
課題:心理的安全なコラボレーション • Postmortemなどで、HRTでないコミュニケーションが発生するケースも • そういったコミュニケーションを正しく是正していくのは 人間にはなかなか難しい
活用アイデア:Postmortem支援AI • LLMとの対話を活用した、意義のある postmortem • 以下の発言があれば是正 ◦ 個人攻撃 ◦ 曖昧な振り返り
活用アイデア:Postmortem支援AI • 時間があればデモ
Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題
今後の課題 • LLMを用いて、DevOpsの特にOpsを支援するアプリのアイデアとデモを紹介しまし た • 動くものを作るのはそんなに難しくないのですが、これを実際に運用するにはそこそ この負荷がかかります ◦ プロンプトチューニングによる精度の向上 ...
◦ 技術アップデートへの追従... • 進化目紛しい領域ですが、作って楽しんで、一緒にアップデートしていきましょう!
ちょっと宣伝・・
生成AI事例イベントを来週やります! https://aws-startup-community.connpass.com/event/309291/