Upgrade to Pro — share decks privately, control downloads, hide ads and more …
Sign up for free

20240321_生成AI時代のDevOps

Sponsored · Ship Features Fearlessly Turn features on and off without deploys. Used by thousands of Ruby developers. →
Avatar for Kazuki Maeda Kazuki Maeda
March 21, 2024
Technology
1.5k
2

 20240321_生成AI時代のDevOps

https://studyco.connpass.com/event/311547/
の資料

Avatar for Kazuki Maeda

Kazuki Maeda

March 21, 2024

More Decks by Kazuki Maeda

See All by Kazuki Maeda
AI時代に、プロダクトの数だけ積み上がる所有コストをどうエンジニアリングするか / Engineering the Cost of Ownership
Avatar for Kazuki Maeda kzkmaeda
1
1.7k
「答えを出す」より「わかる」をつくる
Avatar for Kazuki Maeda kzkmaeda
1
310
敢えて生成AIを使わないマネジメント業務
Avatar for Kazuki Maeda kzkmaeda
2
830
Amazon Bedrockで実現する 新たな学習体験
Avatar for Kazuki Maeda kzkmaeda
3
2.9k
日本の教育の未来 を考える テクノロジーは教育をどのように変えるのか
Avatar for Kazuki Maeda kzkmaeda
1
410
モノリスの認知負荷に立ち向かう、コードの所有者という思想と現実
Avatar for Kazuki Maeda kzkmaeda
0
310
エンジニアリング価値を黒字化する バリューベース戦略を用いた 技術戦略策定の道のり
Avatar for Kazuki Maeda kzkmaeda
9
8.4k
現場の種を事業の芽にする - エンジニア主導のイノベーションを事業戦略に装着する方法 -
Avatar for Kazuki Maeda kzkmaeda
2
8.2k
生成AIを用いた 新しい学びの体験を 提供するまでの道のり
Avatar for Kazuki Maeda kzkmaeda
0
520

Other Decks in Technology

See All in Technology
[AWS 秋のクラウドオペレーション祭り 2026]AWS DevOps Agentで変わる リリースと運用対応 ~リリース管理機能と Directed actions のご紹介~
Avatar for Toshihiro Furuno furuton
4
1.2k
SDDの運用にめげずに向き合った話
Avatar for SansanTech sansantech
PRO
1
140
AI駆動開発の時代になったのでトヨタ生産方式から見直す
Avatar for terurou terurou
6
5.7k
不可逆な意思決定を避けながら10億超の顧客データを AI Ready にするデータ基盤設計
Avatar for Yuichiro Yamashita baseballyama
1
260
転んだ話が背中を預ける理由になる / A_story_about_falling_down_gives_you_a_reason_to_watch_each_other_s_backs.pdf
Avatar for Pauli pauli
3
350
自分で立ててみるLLMサービス
Avatar for 世良泰明 y_sera15
0
160
分析AIエージェントを育てる、動く環境を育てる
Avatar for Codatum codatum
1
750
全人類（ほぼ）AWS Organizations の上でAWSを利用している、その世界を知る話
Avatar for Hayato Tan htan
1
130
自作バイナリを動かす「入口」8選
Avatar for Takumi Sueda puhitaku
2
1.2k
子育てエンジニアの可処分時間が減っても成長を諦めない戦い方
Avatar for aki sudoakiy
6
4.4k
AI時代のAPI開発を加速する品質ガードレール / API Quality Guardrails in the AI Era
Avatar for Yoichi Kawasaki yokawasa
0
180
ビジネスを止めない技術的負債の返済のための戦略とその手法 - 技術的負債と向き合う / Complexity and Simplicity
Avatar for soudai sone soudai
PRO
3
680

Featured

See All Featured
Testing 201, or: Great Expectations
Avatar for Joseph Mastey jmmastey
46
8.3k
Performance Is Good for Brains [We Love Speed 2024]
Avatar for Tammy Everts tammyeverts
12
1.9k
What the history of the web can teach us about the future of AI
Avatar for Ines Montani inesmontani
PRO
2
730
Bootstrapping a Software Product
Avatar for Garrett Dimon garrettdimon
PRO
306
120k
Joys of Absence: A Defence of Solitary Play
Avatar for Sebastian Deterding codingconduct
1
540
Designing Dashboards & Data Visualisations in Web Apps
Avatar for Des Traynor destraynor
232
55k
[Rails World 2026] Durable orchestration on Rails: from continuation to workflow
Avatar for Vladimir Dementyev palkan
1
690
The agentic SEO stack - context over prompts
Avatar for schlessera schlessera
0
970
Gemini Prompt Engineering: Practical Techniques for Tangible AI Outcomes
Avatar for Mfonobong Umondia mfonobong
2
580
Highjacked: Video Game Concept Design
Avatar for Ryan Kendrick rkendrick25
PRO
1
480
ReactJS: Keep Simple. Everything can be a component!
Avatar for Pedro Nauck pedronauck
666
130k
The Limits of Empathy - UXLibs8
Avatar for Cassini Nazir cassininazir
2
710

Transcript

  1. 生成AI時代のDevOps - monitoringとcollaborationの進化 - 2024/03/21 StudyCo LT大会 #6 @kzk_maeda

  2. 自己紹介 Kazuki Maeda 𝕏 @kzk_maeda SRE/DRE/EM @atama plus AWS Community

    Builders AWS Startup Community Core Member

  3. 自己紹介

  4. 今日は活用のアイデアを 話します

  5. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  6. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  7. DevOpsについて • DevOpsは文化であり、プラクティスである • よくこんな図で説明されることがある

  8. DevOpsにおけるツール • DevOpsにおいて、プラクティスを加速するツールは多く提供されている ◦ バージョン管理ツール ◦ CI/CDツール ◦ Infrastructure as

    Codeツール... • DevOpsにおいて、ツールとは文化を加速させるもの • 生成AIも文化を加速させるために活用されていく未来を 期待したい

  9. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  10. Devを支援する生成AI • 生成AIの台頭により、開発者の体験は大きく変わった • 現状はDev領域での活用が中心 ◦ Github Copilot ◦ ChatGPT

  11. Code/Test - Github Copilot etc • あああ

  12. Code/Test - Github Copilot • 言わずと知れたAIコーディングアシスタント • エディタ上で有効にし、コードのサジェスト、テストコードの作成、チャット機能による コーディング支援などを享受できる •

    類似のサービスに、Amazon CodeWhispererやDuet AI for Developersなど

  13. Plan - ChatGPT etc • あああ

  14. Plan - ChatGPT etc • 現在の生成AIブームの火付け役となった、OpenAI社提供のAIチャット • 言語モデルであるGPTを一般利用しやすいチャット形式のプロダクトで 提供することで、一世を風靡 •

    計画の壁打ちやレビュー補助など、メンターやアシスタントとして活用するケースが多 い印象 • 類似のサービスに、Copilot(Bing)やGemini、Claudeなど

  15. DORA State of DevOps Report 2023 • 一方、生成AIの活用による生産性の効果実感はまだ得られていない

  16. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  17. 生成AIでOpsを支援したい • 生成AIの特性を考えると、Ops領域でも活用はできるはず • 現状、クリティカルソリューションで 広まっているものはそこまでない？

  18. Opsの辛さと 生成AI活用のアイデア

  19. 課題：割り込みによるコンテキストスイッチ • 割り込みによるコンテキストスイッチは生産性の著しい低下を招く https://note.com/navitime_tech/n/nf68540265371

  20. 課題：エラー発生時の割り込み • エラーを検知したらそこそこやることがある ◦ 通知確認 ◦ エラー内容調査 ◦ 過去の調査履歴確認 ◦

    調査内容共有 ◦ ・・・

  21. 活用アイデア：モニタリング自動応答AI • RAGを応用した、自動モニタリング・Issue作成のシステム ◦ 以下をRAGで自動化 ▪ エラー検知 ▪ ログ調査 ▪

    過去調査履歴確認 ▪ 調査内容共有
  22. None

  23. 課題：心理的安全なコラボレーション • Postmortemなどで、HRTでないコミュニケーションが発生するケースも • そういったコミュニケーションを正しく是正していくのは 人間にはなかなか難しい

  24. 活用アイデア：Postmortem支援AI • LLMとの対話を活用した、意義のある postmortem • 以下の発言があれば是正 ◦ 個人攻撃 ◦ 曖昧な振り返り

  25. 活用アイデア：Postmortem支援AI • 時間があればデモ

  26. Agenda • DevOpsについて • 生成AI時代のDevOps • 生成AI時代とDevOpsの展望 • 今後の課題

  27. 今後の課題 • LLMを用いて、DevOpsの特にOpsを支援するアプリのアイデアとデモを紹介しまし た • 動くものを作るのはそんなに難しくないのですが、これを実際に運用するにはそこそ この負荷がかかります ◦ プロンプトチューニングによる精度の向上 ...

    ◦ 技術アップデートへの追従... • 進化目紛しい領域ですが、作って楽しんで、一緒にアップデートしていきましょう！

  28. ちょっと宣伝・・

  29. 生成AI事例イベントを来週やります！ https://aws-startup-community.connpass.com/event/309291/