20240321_生成AI時代のDevOps

by Kazuki Maeda

Slide 1

Slide 1 text

生成AI時代のDevOps - monitoringとcollaborationの進化 - 2024/03/21 StudyCo LT大会 #6 @kzk_maeda

Slide 2

Slide 2 text

自己紹介 Kazuki Maeda 𝕏 @kzk_maeda SRE/DRE/EM @atama plus AWS Community Builders AWS Startup Community Core Member

Slide 3

Slide 3 text

自己紹介

Slide 4

Slide 4 text

今日は活用のアイデアを話します

Slide 5

Slide 5 text

Agenda ● DevOpsについて ● 生成AI時代のDevOps ● 生成AI時代とDevOpsの展望 ● 今後の課題

Slide 6

Slide 6 text

Agenda ● DevOpsについて ● 生成AI時代のDevOps ● 生成AI時代とDevOpsの展望 ● 今後の課題

Slide 7

Slide 7 text

DevOpsについて ● DevOpsは文化であり、プラクティスである ● よくこんな図で説明されることがある

Slide 8

Slide 8 text

DevOpsにおけるツール ● DevOpsにおいて、プラクティスを加速するツールは多く提供されている ○ バージョン管理ツール ○ CI/CDツール ○ Infrastructure as Codeツール... ● DevOpsにおいて、ツールとは文化を加速させるもの ● 生成AIも文化を加速させるために活用されていく未来を期待したい

Slide 9

Slide 9 text

Agenda ● DevOpsについて ● 生成AI時代のDevOps ● 生成AI時代とDevOpsの展望 ● 今後の課題

Slide 10

Slide 10 text

Devを支援する生成AI ● 生成AIの台頭により、開発者の体験は大きく変わった ● 現状はDev領域での活用が中心 ○ Github Copilot ○ ChatGPT

Slide 11

Slide 11 text

Code/Test - Github Copilot etc ● あああ

Slide 12

Slide 12 text

Code/Test - Github Copilot ● 言わずと知れたAIコーディングアシスタント ● エディタ上で有効にし、コードのサジェスト、テストコードの作成、チャット機能によるコーディング支援などを享受できる ● 類似のサービスに、Amazon CodeWhispererやDuet AI for Developersなど

Slide 13

Slide 13 text

Plan - ChatGPT etc ● あああ

Slide 14

Slide 14 text

Plan - ChatGPT etc ● 現在の生成AIブームの火付け役となった、OpenAI社提供のAIチャット ● 言語モデルであるGPTを一般利用しやすいチャット形式のプロダクトで提供することで、一世を風靡 ● 計画の壁打ちやレビュー補助など、メンターやアシスタントとして活用するケースが多い印象 ● 類似のサービスに、Copilot(Bing)やGemini、Claudeなど

Slide 15

Slide 15 text

DORA State of DevOps Report 2023 ● 一方、生成AIの活用による生産性の効果実感はまだ得られていない

Slide 16

Slide 16 text

Agenda ● DevOpsについて ● 生成AI時代のDevOps ● 生成AI時代とDevOpsの展望 ● 今後の課題

Slide 17

Slide 17 text

生成AIでOpsを支援したい ● 生成AIの特性を考えると、Ops領域でも活用はできるはず ● 現状、クリティカルソリューションで広まっているものはそこまでない？

Slide 18

Slide 18 text

Opsの辛さと生成AI活用のアイデア

Slide 19

Slide 19 text

課題：割り込みによるコンテキストスイッチ ● 割り込みによるコンテキストスイッチは生産性の著しい低下を招く https://note.com/navitime_tech/n/nf68540265371

Slide 20

Slide 20 text

課題：エラー発生時の割り込み ● エラーを検知したらそこそこやることがある ○ 通知確認 ○ エラー内容調査 ○ 過去の調査履歴確認 ○ 調査内容共有 ○ ・・・

Slide 21

Slide 21 text

活用アイデア：モニタリング自動応答AI ● RAGを応用した、自動モニタリング・Issue作成のシステム ○ 以下をRAGで自動化 ■ エラー検知 ■ ログ調査 ■ 過去調査履歴確認 ■ 調査内容共有

Slide 22

Slide 22 text

No content

Slide 23

Slide 23 text

課題：心理的安全なコラボレーション ● Postmortemなどで、HRTでないコミュニケーションが発生するケースも ● そういったコミュニケーションを正しく是正していくのは人間にはなかなか難しい

Slide 24

Slide 24 text

活用アイデア：Postmortem支援AI ● LLMとの対話を活用した、意義のある postmortem ● 以下の発言があれば是正 ○ 個人攻撃 ○ 曖昧な振り返り

Slide 25

Slide 25 text

活用アイデア：Postmortem支援AI ● 時間があればデモ

Slide 26

Slide 26 text

Agenda ● DevOpsについて ● 生成AI時代のDevOps ● 生成AI時代とDevOpsの展望 ● 今後の課題

Slide 27

Slide 27 text

今後の課題 ● LLMを用いて、DevOpsの特にOpsを支援するアプリのアイデアとデモを紹介しました ● 動くものを作るのはそんなに難しくないのですが、これを実際に運用するにはそこそこの負荷がかかります ○ プロンプトチューニングによる精度の向上 ... ○ 技術アップデートへの追従... ● 進化目紛しい領域ですが、作って楽しんで、一緒にアップデートしていきましょう！

Slide 28

Slide 28 text

ちょっと宣伝・・

Slide 29

Slide 29 text

生成AI事例イベントを来週やります！ https://aws-startup-community.connpass.com/event/309291/